요약
메타가 시위 당일 노 킹스 인스타그램 계정을 90분간 정지했다가 잘못된 판단이었다고 인정했습니다.
마이다스터치 공동 창업자 브렛 마이슬러스의 기사입니다. 노 킹스 운동을 이끄는 단체 인디비저블의 공동 대표 에즈라 레빈은 전국 시위와 조기 투표 독려가 한창이던 토요일에 계정이 사라졌다고 밝혔습니다.
왜 중요한가
- 선거를 앞둔 대규모 시민 동원의 소통 창구가 플랫폼의 결정 하나로 끊길 수 있음을 보여 줍니다.
- 메타는 실수를 인정했다고 전해졌지만 정지 이유는 아직 설명하지 않았습니다.
- 연합은 이번 일을 기술 플랫폼이 누구의 목소리를 들리게 할지 정하는 더 큰 문제로 봤습니다.
핵심 내용
- 계정은 시위가 절정이던 시간에 약 90분 동안 정지돼 아무도 페이지를 볼 수 없었습니다.
- 페이지가 다시 열린 뒤에도 운영진은 원래 이메일로 로그인하지 못해 글을 올릴 수 없었습니다.
- 연합에 따르면 메타는 90분 가까이 답이 없다가 "bad call"(잘못된 판단)이었다고 인정했습니다.
- 기사는 정치적 동기를 뒷받침할 증거는 아직 없다고 덧붙였습니다.
- 레빈은 메타가 권위주의 세력을 편들었다는 의혹이 나온 브라질 사례와 닮았다고 말했습니다.
HN 반응
- 조직적인 대량 신고에 자동 정지 장치가 반응했다는 추측이 많았고, 운영진이 몇 시간이나 잠겼다는 반박도 나왔습니다.
- 메타가 사람 대신 자동 모더레이션(기계가 규정 위반을 판단해 조치하는 방식)에 맡긴 것은 비용 절감이라는 비판과, 완벽한 절차는 없다는 반론이 맞섰습니다.
제 생각에는 신고 기능 악용 같은 걸로 자동 차단 로직이 발동한 것 같습니다. 사람 중재자가 내렸거나 그 결정을 승인했다면 물론 더 나쁘겠지만, 불가능한 일은 아닙니다.
메타를 비롯한 대형 IT 기업은 대체로 자동 제재에 지나치게 의존합니다. 거의 실시간으로 대응할 만큼 중재자를 고용하는 것보다 그편이 돈이 덜 들기 때문입니다. 게다가 의욕 넘치는 사람들이 모여 콘텐츠를 집단 신고하는 건 정말 쉬운 일이고, 자동화 시스템은 그 신고를 곧이곧대로 받아들이는 경우가 많습니다.
이렇게 공공의 장이 사기업 손에 있는 건 분명 까다로운 문제입니다. 더 나은 중재를 요구하면 비용이 너무 커지고, 그러면 사기업은 논란이 되거나 정치적인 건 전부 플랫폼에서 내보내는 방법을 찾을 가능성이 큽니다.
동의합니다. 특히 정지가 90분밖에 안 갔다는 점을 생각하면 더 그렇습니다.
메타가 정말로 No Kings를 플랫폼에서 쫓아내고 싶었다면 영구 정지로 날려 버리고, 테러니 국가 안보니 하는 핑계로 얼버무렸을 겁니다. (레딧이 한창 눈 밖에 났던 시절에 /r/TheDonald 같은 눈엣가시 서브레딧을 줄줄이 날려 버린 오랜 전적도 참고하세요.)
r/TheDonald가 날아간 건 "눈엣가시"여서가 아니라, 운영진이 혐오 발언과 폭력 협박, 그 밖의 악질 행위를 통제하지 못했거나 통제할 의지가 없었기 때문입니다. "오랜 전적"이라는 말도 맞지 않습니다. 그건 한 번의 대규모 정리에서 2000개쯤 되는 서브레딧이 한꺼번에 날아갔을 때 포함된 겁니다(대부분은 활동이 없는 곳이었습니다). "그 시절"이라고 하셨지만, 레딧은 지금도 그런 행위를 금지합니다.
공개적으로 보인 정지는 90분이었지만, 계정에는 몇 시간 동안 로그인조차 못 했습니다.
https://bsky.app/profile/ezralevin.bsky.social/post/3my43atjmnc2p 를 보세요.
메타가 왜 그렇게 무거운 접근을 택했을 거라고 생각하시는지 모르겠네요. 딱 필요한 때에 딱 필요한 만큼만, 최소 비용에 최소 부담으로 하는 쪽이 훨씬 메타답잖아요.
자동 중재가 무슨 면죄부라도 된다는 건가요? 예전의 메타/페이스북은 사람 중재자를 엄청나게 많이 고용했어요.
설마 책임을 기계에 떠넘기는 걸 이대로 받아들이자는 건 아니죠?
이미 끝난 얘기입니다. 페이스북은 2023년부터 사람 중재자(와 외주 인력)를 내보내기 시작했고, 2025년 1월에 "표현의 자유"를 내세운 자동 중재로 전환했습니다.
원인 중 하나는 2020년에 중재자들에게 PTSD를 일으킨 일로 낸 5200만 달러짜리 합의금이었습니다. 그 온갖 악질 콘텐츠를 다루는 일은 정서적으로 너무나 소모가 컸습니다.
예전에는 정부 규제로 사기업이 권한에 걸맞은 책임을 지게 했습니다.
메타와 X가 공공 광장이 되고 싶다면, 그 비용 중 하나는 중요한 사안(정치, 건강, 혐오/음모론 등)을 빠르게 검토할 만큼 사람 중재자를 충분히 고용하는 것이어야 합니다.
그렇게 하기 싫다면 좋습니다, 다른 일로 돈을 벌면 됩니다.
하지만 지금 같은 규모에서는 이게 결국 이윤율이 몇 퍼센트포인트 높으냐 낮으냐를 두고 자원을 어떻게 배분하느냐의 문제입니다.
푼돈 몇 푼 벌자고 민주주의적 책임에서 스스로 벗어나는 건 역겹습니다.
저한테 왜 이런 말씀을 하시는지 모르겠네요. 저는 전달자일 뿐입니다. 게다가 말씀이 상당히 헷갈립니다.
그건 이미 했습니다. 그러다가 더는 안 하기로 한 겁니다. "~해야 한다"는 아무 의미 없는 말입니다. 그건 당신 의견일 뿐이고, 메타는 분명히 신경 쓰지 않습니다.
대체 누구한테 하는 말입니까? "이봐 메타, 다른 일로 돈 벌어라!" 이런 말이 먹히는 건 기괴한 나르시시즘의 환상 세계에서나 가능한 일입니다.
네, 그렇죠. 이제 철 좀 드세요.
대부분 동의합니다. 다만 그 합의금이 결정타였다는 건 절대 아닙니다. 메타는 더 작은 외주 업체들과 그보다 큰 계약도 맺고 있습니다.
신뢰·안전 부서는 비용 센터일 뿐이고, IT 업계에서는 가치를 인정받지 못합니다.
"원인 중 하나"가 어떻게 "결정타"로 바뀌는지 신기하네요.
해도 욕먹고 안 해도 욕먹는 거죠.
계정이 90분 정지됐을 뿐인데 왜 곧바로 악의가 있었다고 단정하는 거죠?
오히려 메타가 이런 걸 막는 보호 장치를 갖추고 있었다면 "노골적인 정치적 편들기"라며 울부짖는 사람들이 분명 있었을 거예요.
시스템 전반이 악용되기 더 어려워지도록 개선되길 바랍니다. 그런데 이 분노는 정말 어마어마하네요.
사업 모델 자체가 악의적이니까요.
메타는 아주 의도적으로 수많은 사람 간의 상호작용 한복판에 끼어들었습니다. 악의를 가진 사람이 있다는 것도 알고, 자동 중재기가 맥락을 이해하지도 추론하지도 못해서 자주 잘못된 판단을 내린다는 것도 압니다.
하지만 컴퓨터가 먼저 처리해서 기본 "권고" 조치를 제시하고 사람이 승인이나 거부를 하게 할 만큼 중재자를 고용하려면 비용이 너무 많이 듭니다. 이윤이 박살 나고 재무 상태가 흑자에서 적자로 돌아설 수도 있습니다. 메타의 사업 모델은 잘못된 판단을 내리고, 그에 대한 분노가 실제 메타 직원들 눈에 띄어 바로잡히는 것에 의존합니다.
충분한 인력을 고용하는 대신 중재를 맡긴 건 메타 자신이 앉힌 컴퓨터이니, 메타는 그 컴퓨터 탓을 할 수 없습니다. 컴퓨터에는 책임을 물을 수 없으니, 책임은 그 컴퓨터를 프로그래밍하고 방치한 사람들에게로 올라갑니다.
메타는 아무것도 탓하지 않아요. 그건 그냥 절차예요. 어떤 절차도 완벽할 수는 없고, 그게 바로 '해도 욕먹고 안 해도 욕먹는' 상황이죠.
이건 그 주제 자체에 신경 쓰는 사람이나, 그 90분 동안 실제로 어떤 피해가 있었는지 따지는 사람들에게나 심각한 일일 텐데, 저는 별일 아니라고 봅니다.
메타가 중요한 판단을 내릴 수 있는 질 좋은 사람 중재자를 고용하고, 훈련하고, 지속적으로 배치하는 건 충분히 가능한 일입니다.
"가능한지조차 잘 모르겠다" 같은 막연한 얘기가 아니에요.
그냥 메타가 인색하게 굴면서, 다른 모든 사람의 희생을 대가로 주주들만 배불리는 쪽을 선호하는 겁니다.
아마 AI를 쓰면 오류율을 줄이고 오탐을 거의 즉시 걸러낼 수 있을 텐데, 사회가 그걸 어떻게 보는지는 다들 알잖아요.
ATM에 수표를 입금할 때마다 자동화 시스템에 책임을 떠넘기고 있는 거예요(아마 그렇진 않으시겠죠. 은행 시스템을 그보다 훨씬 더 자동화된 방식으로 쓰시니까요).
정치적 정실 인사 혐의가 문제라면, 자동으로 처리됐는지 재량으로 처리됐는지는 당연히 중요합니다.
숫자 OCR과 임의의 자유 텍스트가 이용약관을 위반하는지 판단하는 일 사이에는 결정성 면에서 큰 간극이 있습니다.
그 간극의 비유적 크기는 결과를 경험적으로 따져 보는 게 가장 좋다고 생각합니다. 기술적으로 비결정적인 시스템이 실제로는 결정적인 시스템만큼 정확하게 작동한다면, 수사적인 의미의 간극은 꽤 작아 보입니다.
메타는 브라질에서 룰라에게 불리하게 저울을 기울였어요. 이번이라고 뭐가 다르겠어요?
이런 표현의 자유 절대주의자들이 이번 일에는 목소리를 높일지 궁금하네요. 왠지 아닐 것 같지만요.
저는 누구에게 가해지든 플랫폼 퇴출에 반대합니다.
플랫폼 퇴출을 아예 피하는 건 불가능합니다. 집단 공격과 괴롭힘을 허용하면 그 표적이 된 사람들이 사실상 서비스를 쓸 수 없게 되어 퇴출당하는 셈이고, 아니면 집단 공격하는 사람들이 표적의 공론장에 접근하지 못하게 막아 그들을 퇴출해야 합니다.
이제 자기들이 퇴출당하는 처지가 된 집단이 여전히 퇴출에 반대하는 사람들에게 반박하고 있는 걸 보니 참 대단하네요.
사실 아주 평범한 일입니다.
지금 자기들이 투옥된 집단이 감옥 자체에 무조건 반대하는 사람들에게 여전히 반박하는 것과 같습니다.
동의할 필요는 없지만 그 논리는 이해할 수 있어야 합니다.
한쪽은 행위의 "이유"가 옳고 그름을 결정한다고 믿고, 다른 쪽은(그게 진짜 입장이라면) 행위 자체가 무조건 잘못이라고 믿습니다.
아동 포르노 유포자는요? 그 사람들도 계속 남겨 둬야 하나요?
교육 차원에서 부모 댓글 작성자의 질문을 한번 해부해 보겠습니다.
대답이 "예"라면, 부모 댓글 작성자는 답한 사람이 끔찍한 인간이라고 맹비난할 겁니다.
대답이 "아니오"라면, 부모 댓글 작성자는 답한 사람이 결국 플랫폼 퇴출에 반대하는 것도, 표현의 자유를 지지하는 것도 아니라며 의기양양하게 외칠 겁니다.
눈 밝은 HN 독자라면 바로 문제를 알아챌 수 있을 겁니다. 바로 거짓 딜레마 오류입니다( https://en.wikipedia.org/wiki/False_dilemma ). 이 사람은 플랫폼 퇴출을 지지하지 않으면 모든 표현 제한에 100% 반대해야 하는 가상의 "표현의 자유 절대주의자"를 만들어 놓았는데, 이는 명백히 말이 안 됩니다. 그런 사람은 있다 해도 거의 없습니다.
그러니 이건 말꼬리 잡기를 노린 것인데, 따져 보면 성립하지 않습니다. 사람들이 이걸 왜 영리하다고 생각하는지 모르겠습니다.
플랫폼 퇴출에 대해 절대적인 입장을 취한 건 부모 댓글 작성자입니다. 그 입장은 제가 지어낸 게 아닙니다. 당신은 단순히 "저는 플랫폼 퇴출에 반대합니다"라고 쓴 게 아니라, 그 믿음이 상황을 가리지 않는다는 뜻으로 보이는 구절을 일부러 덧붙였습니다.
저는 그런 적 없습니다. 오히려 그건 제 믿음과도 맞지 않습니다. 저는 대체로 플랫폼 퇴출에 반대하지만, 아동 포르노 같은 경우는 예외로 해야 할 특수한 상황이 있다고 인정합니다.
눈 밝은 HN 독자라면 제가 오히려 그 비난과 정반대로, 이 문제에서 절대적인 이분법이 면밀한 검토를 견디지 못한다는 점을 짚고 있다는 사실을 바로 알 수 있을 겁니다. 이제 와서 상대는 자기가 한 말을 안 했다고 잡아떼면서, 방어하기 쉬운 입장으로 물러나는 교과서적인 모트 앤드 베일리 수법을 쓰고 있습니다.
혹은 "누구에게 가해지든"을 다른 뜻으로 말씀하신 걸 수도 있겠죠. 예를 들면 일부 플랫폼 퇴출은 상황의 예외적인 성격으로는 정당화되지만, 퇴출당하는 쪽에 대한 선입견으로는 정당화되지 않는다는 뜻이라든가요. 그런 거라면 합리적으로 해석한 저를 공격하지 말고 직접 해명하세요.
가커가 망하기 전에 저는 제저벨과 더 루트의 댓글란에서 꽤 많은 시간을 보냈습니다. 특히 제저벨은 의욕 충만한 악플러 문제가 심각했습니다.
때로는 반대를 위한 반대를 쏟아내는 식이었고, 거의 모든 기사의 댓글에 포르노와 젠더 폭력 사진을 올리는 악플러들도 있었습니다.
제저벨은 댓글 작성자 화이트리스트의 변형 방식으로 이를 처리했습니다. 승인받지 않은 댓글 작성자(아직 차단되지 않은 악플러 포함)의 댓글은 승인될 때까지 연옥에 머물렀고, 이를 보겠다고 직접 선택한 사람에게만 보였습니다.
표현의 자유 절대주의자를 자처하는 사람들이 마음대로 하면서 악플러를 보호하면, 제저벨 같은 커뮤니티는 존재할 수 없습니다. 악플러의 표현의 자유를 우선하면, 그 표적이 된 사람들은 집회의 자유와 결사의 자유를 빼앗깁니다.
이것들은 모두 사적인 공론장이라서 미국 권리장전이 실제로 적용되는 건 아닙니다. 하지만 오늘 같은 일은 메타나 X 같은 플랫폼이 정치적 적수들의 완전한 참여를 보장하려는 의지가 약하다는 걸 다시 일깨워 줍니다.
대체로 동의합니다. 다만 한 회사가 자기 플랫폼에서 나온 발언의 손해배상 책임을 면제받겠다고 주장하면서 그 근거로 발행인이 아니라 "가상의 마을 광장"으로 운영된다고 내세운다면, 공공 공간이 작동하는 방식에 걸맞게 발언을 허용할 의무가 있다고 주장할 수도 있을 겁니다.