요약
‘노 킹스’ 계정 정지는 고의든 실수든, 저커버그가 끌 수 있는 구조 자체가 문제입니다.
테크더트의 마이크 매스닉이 쓴 글입니다. 지난 주말 미국 곳곳의 ‘노 킹스’ 시위 도중 주최 측 인스타그램 계정이 약 1시간 정지됐습니다. 트럼프를 지지해 온 저커버그가 손을 쓴 것 아니냐는 의혹이 곧바로 나왔습니다.
왜 중요한가
- 한 회사에 확성기를 맡긴 단체는 가장 중요한 순간에 실수만으로도 목소리를 잃을 수 있습니다.
- 저커버그에게 ‘더 잘하라’고 요구하면 그의 권한만 커지고, 정권이 바뀌면 같은 압력이 반대편을 향한다고 경고합니다.
- 탈중앙 프로토콜(atproto·ActivityPub처럼 한 회사가 통제하지 않는 소통 규약)을 쓰는 일은 취향이 아니라 표현의 자유를 지키는 수단이라고 봅니다.
핵심 내용
- 메타는 10월 17일 ‘Claude 도구’가 프로필과 게시물을 읽는 양이 약 4배로 급증해 봇 트래픽으로 판단했다고 해명했습니다.
- 윌 로빈슨과 팀 체임버스의 조언을 빌려, 남이 끌 수 없는 연락 채널과 정지에 대비한 대응 계획을 미리 갖추라고 권했습니다.
- 하루 수억 건을 심사하는 플랫폼은 1% 미만만 틀려도 오류가 엄청나므로 고의일 가능성은 낮다고 봤습니다.
- 이미 전국에서 벌어지는 시위의 계정 하나를 막으면 관심만 키우므로 정부 개입설은 앞뒤가 맞지 않는다고 했습니다.
- 크리스 머피 상원의원의 메타 조사 추진도 트럼프 계정 정지 뒤 짐 조던이 벌인 조사와 같은 압박이라고 비판했습니다.
HN 반응
- 일부 이용자는 같은 시기 팔레스타인 관련 활동가와 언론인 계정도 지워졌고, 크게 항의해야만 하나씩 복구된다고 지적했습니다.
- Mastodon 같은 개방형 플랫폼으로 가자는 주장에는 봇은 플랫폼만 걸러낼 수 있다는 반론과, 사람이 적어 아무도 오지 않는다는 비꼼이 나왔습니다.
언론에서는 덜 다뤄졌지만, 가자에서 벌어진 전쟁범죄를 이유로 이스라엘군(IDF) 병사들을 추적하고 있는 힌드 재단( https://en.wikipedia.org/wiki/Hind_Rajab_Foundation ) 설립자의 인스타그램 계정도 같은 시점에 차단됐고, 이쪽은 복구되지 않았습니다.
https://www.instagram.com/Aboujahjah/
살해된 팔레스타인 기자들의 계정도 이번에 함께 지워졌습니다. 퓰리처상을 받은 알자지라의 아나스 알샤리프 계정도 포함됐는데, 지금은 되살아난 것 같습니다. https://www.youtube.com/post/Ugkx0kN5mUZDFsw7OgRiY3ElLx9DgjM2_N12
힘없는 쪽만 겨냥한 계정 삭제가 파도처럼 되풀이되고, 아주 크게 소란을 피워야만 계정 하나씩 겨우 복구되는 것 같습니다. 그런 파도가 올 때마다 그 목소리들은 조금씩 깎여 나갑니다. 일종의 전략처럼 느껴집니다.
자유로운 발언과 '달갑지 않은' 관점을 인터넷에서 지워 버리는 일(검열)은 갈수록 넓고 교묘해질 겁니다. 소셜 미디어에 지분을 가진 바로 그 사람들과 동기가 이제는 "AI" 챗봇에까지 끈적한 손을 뻗고 있으니까요.
그래서 어느 정도 특권을 가진 정보 접근층인 우리가 지금 진정으로 열려 있고 분산된 플랫폼(마스토돈 등)을 택하는 게 무엇보다 중요합니다. 사용자를 담장 안 동물원에 가두는 x나 다른 저커 계열 SNS 링크를 계속 올릴 게 아니라요.
… 그럼 봇 트래픽은요? 지금 플랫폼들은 봇에 뒤덮여 있지만, 보아하니 그건 플랫폼이 그렇게 두기로 선택해서일 뿐이잖아요. 진짜로 열린 플랫폼은 봇들의 놀이터가 될 텐데요.
(지금 플랫폼들은 봇에 뒤덮여 있지만, 보아하니 그건 플랫폼이 그렇게 두기로 선택해서일 뿐이잖아요. 진짜로 열린 플랫폼은 봇들의 놀이터가 될 텐데요.)
두 가지를 전제하고 계신 것 같습니다. 하나는 중앙집중 덕분에 쓸 수 있는 "쉬운" 해결책이 있다는 것이고, 다른 하나는 분산형에는 해결책이 없다는 것입니다.
첫 번째는 전혀 모르는 사람들의 글을 조작 가능한 알고리즘으로 보여 주려는 서비스라면, 중앙집중이든 아니든 꽤 어렵습니다.
두 번째의 반례를 들어 보겠습니다. 피드에 내가 팔로우하는 사람과 그들이 팔로우하는 사람의 글이나 리포스트만, 혹은 거의 그런 글만 뜬다고 해 봅시다. 특정인에 대해서는 뒤쪽(그들이 팔로우하는 사람) 표시를 끌 수도 있고요. 그러면 봇을 팔로우하지 않는 한 봇은 보이지 않습니다. 답글은 읽는 사람이나 원글 작성자 중 한쪽이 답글 작성자를 팔로우할 때 보이게 하고, 기본값은 답글 대상 글의 작성자에게만 보이게 하되 작성자가 자기 팔로워 모두에게 공개하도록 고를 수 있게 합니다.
이러면 봇이 와서 답글을 달 수는 있어도 그걸 보는 사람은 한 명뿐이고, 목록 맨 끝에 "아무 연관 없는 사람"으로 표시됩니다. 게다가 사용자 클라이언트가 원하는 방식의 알고리즘 봇 탐지를 얼마든지 얹을 수도 있습니다.
(게다가 사용자 클라이언트가 원하는 방식의 알고리즘 봇 탐지를 얼마든지 얹을 수도 있습니다.)
봇 트래픽은 대규모로 봐야만 보이는 경우가 있습니다.
클라이언트들이 서로에 대해 아는 것과 플랫폼이 클라이언트들에 대해 아는 것 사이에는 엄청난 비대칭도 있습니다. 봇 탐지는 사실상 플랫폼만 제대로 할 수 있습니다.
분산형 네트워크의 고전적인 문제입니다. 규모가 충분히 커지면 스팸이 생기고, 그때부터는 걸러 줄 중재자가 필요해집니다. 다만 저는 여기서 AI도 도움이 될 수 있다고 생각합니다. 중앙집중식 중재자 대신 (가급적 자체 호스팅/분산형) AI가 내 네트워크 그래프에서 봇과 스팸을 걸러 주는 거죠.
플랫폼이 열려 있다면 봇으로 알려졌거나 의심되는 계정의 차단 목록을 우리가 직접 만들 수 있을 겁니다. 비트토렌트용 차단 목록도 만들었고, 광고 차단 목록도 만들어서 관리하고 있잖아요. 소셜 미디어 피드를 우리가 직접 통제할 수 있다면 봇 차단 목록도 만들 겁니다.
LLM에게 생각을 맡기지 않는 것도 똑같이 중요합니다. LLM이 절대 데려다주지 않는 결론이 있거든요.
필립 K. 딕의 단편 "Service Call"이 떠오르네요.
https://philipdick.com/mirror/websites/pkdweb/short_stories/Service%20Cll.htm
저는 2021년에 아이다호주 선밸리에서 열린 평화 시위를 레딧에서 조직했는데, 10일도 안 돼 계정이 정지되고 15년 동안 쓴 글과 댓글이 전부 삭제됐습니다. 동시에 심리전 봇 군단이 움직여서, 저를 테러리스트니 미친 사람이니 하며 사람들에게 겁을 주려 했습니다.
그 기간에 저는 FBI의 감시와 괴롭힘도 받았습니다.
이 얘기 일부는 서브스택에 올려 뒀습니다.
https://webdoodle.substack.com
글이 너무 두루뭉술해서 무슨 얘기인지 알 수가 없네요. 그냥 다른 이메일로 레딧 계정을 새로 만들면 안 됩니까? 레딧 계정의 주된 제약은 가입 3개월과 카르마 1000 아닌가요? 그건 아주 쉽게 채울 수 있으니 옛 계정을 되살리겠다고 몇 년씩 기다릴 필요 없이 그냥 새로 만드세요. 레딧 계정은 여러 개 가져도 되고, 같은 글에 중복으로 투표만 하지 않으면 됩니다.
(그냥 다른 이메일로 레딧 계정을 새로 만들면 안 됩니까?)
레딧에서 차단당한 사람으로서 말씀드리면, 그건 약관 위반이고 저는 그 때문에 쿠키를 지워도 살아남는 일종의 핑거프린트로 다시 차단당했습니다.
레딧에서 새 계정을 만드는 건 정말 어렵습니다. 핑거프린팅을 엄청나게 해요.
할 수 있는 최선은 매일 이의 신청을 하는 겁니다. 제 친구는 667일 연속으로 이의 신청을 한 끝에 얼마 전에 계정을 되찾았습니다.
spez도 레딧의 차단/이의 신청 시스템이 얼마나 엉망인지 아주 잘 알고 있습니다. 곧 모드월드에서 연례행사처럼 집단 공격을 받겠죠.
(아주 보수적인 관점을 가졌다)
레딧에서는 그러면 안 되죠. 솔직히 계정이 삭제된 건 오히려 레딧이 선심 쓴 겁니다.
인스타그램은 "소셜 네트워크"도 "공공 광장"도 아니라는 걸 상기시켜 주는 좋은 사례네요. 그곳은 쇼핑몰입니다.
그래서 저는 마스토돈에서 시위를 조직했죠. 아무도 안 왔지만, 구독자들은 제가 조직했다는 게 정말 멋지다고 말해 줬어요.
그래도 블루스카이에서 조직하진 않으셨네요. 거기서는 아무도 안 오는 건 똑같은데, 글에서 찾아낸 사소한 잘못 하나로 100명한테 악당 취급까지 당하거든요.
브래드 랜더가 블루스카이에 올린 글이 있는데, 자기를 비롯한 미국계 유대인과 이스라엘인 여럿이 올리브 수확을 돕고 정착민들에 맞서 사실상 인간 방패 노릇을 했다는 내용입니다.
IDF는 미국인들을 억류했지만 그는 공인이라서 풀어 줬습니다. 랍비들은 아직도 억류 중이고요. 참 알 만한 일이죠.
브래드 랜더가 가자 집단학살이 한창일 때 뉴욕시 자금을 이스라엘 무기 회사 엘빗 시스템스에 "자랑스럽게" 투자했던 게 영향을 줬을 수도 있겠죠. 그 정도면 뭔가 따져 볼 만한 일이잖아요.
제 피드만 그런 걸 수도 있지만, 저는 블루스카이에서 그런 집단 공격을 본 적이 없어요.
저도 못 봤습니다. 저는 일반 알고리즘 피드는 하나도 안 쓰고, 팔로우 피드와 관심 있는 기술 주제별 알고리즘 피드만 씁니다. 이런 정보를 보는 데 링크드인이나 트위터가 아니라 블루스카이를 쓰는 이유가 바로 그렇게 설정할 수 있어서입니다.
트위터에서는 인도 유학생을 겨냥한 풋볼 경기장 인종차별 같은 온갖 불쾌한 글이나, 그날그날 '2분 증오'가 떠들어 대는 것에서 벗어날 수가 없습니다. 블루스카이에서는 신호만 오고 잡음은 거의 없어요.
블루스카이는 인용 트윗 현상을 막는 식으로 집단 공격을 막는 도구도 트위터보다 훨씬 잘 갖추고 있습니다. 건강한 방향을 고르기만 하면 전반적으로 훨씬 더 건강한 곳입니다.
문제가 꽤 커서 블루스카이가 직접 대응에 나서고 있습니다.
https://bsky.app/profile/safety.bsky.app/post/3mukm26duos2c
놀랍게도 표적 괴롭힘을 다룬 이 게시물의 상위 답글은, 집단 공격의 단골 표적이 된 몇몇 계정으로 분노를 돌리려는 계정들이 쓴 것입니다. 블루스카이 문화에 깊이 박혀 있는 건데, 어쩌다 그렇게 됐는지 모르겠습니다.
저는 피드를 다듬어서 그런 걸 안 보려 했습니다. 그런데 이제는 제가 팔로우하는 기자들이 결국 블루스카이의 집단 공격 캠페인의 표적이 되어 플랫폼을 떠나는 게 문제입니다.
편집: 피해자를 탓하거나 그런 문제는 없다고 말하는 답글이 많습니다. 최근 사례를 하나 들겠습니다. 릭 브루스터가 Wine에서 Paint.NET을 돌리는 개념 증명을 만들었다가 집단 공격이 너무 심해서 글을 지우고 물러났습니다. https://bsky.app/profile/rickbrew.bsky.social/post/3muiv4pheo22g
(어쩌다 그렇게 됐는지 모르겠습니다.)
초기 블루스카이 사용자들은 옛 트위터에서 가장 독했던 사용자들이었던 경향이 있으니, 그리 놀랍지 않습니다.
실제로는 트위터의 새 소유주와 가장 안 맞았던 사람들일 뿐입니다. 일론을 좋아하는 걸 독하다고 보느냐, 싫어하는 걸 독하다고 보느냐는 개인 취향 문제고요. 저는 거기 문화가 아주 쾌적하다고 생각합니다.
*가장 독한 사용자 중 일부일 수는 있겠죠(저는 거의 써 본 적이 없어서 모르겠지만). 그래도 트위터에 남은 사람도 분명 충분히 많습니다.
가장 독한 트위터 사용자들은 트위터에 남았어요.
bsky는 문화적으로 반AI 성향의 인간 중심 예술가들(일러스트레이터, 게임 개발자, 취미 코더, 작가)이 핵심층으로 깔려 있습니다. 트위터/X를 떠나면서도 작품은 계속 공유하고 싶었던 첫 사람들이죠. 릭의 원래 집단 공격 대상 게시물은 이제 삭제돼서 정확히 무슨 소동이었는지는 모르지만, 장담컨대 paint.net에 AI 기능을 넣었거나, 아무도 원하지 않은 바이브코딩 결과물(누가 봐도 바이브코딩인 것)을 내놓으면서 그걸 핵심 안티 집단에게 신나할 만한 것처럼 홍보했을 겁니다.
집단 공격 행태나 반AI 정서 전반을 옹호하려는 건 아닙니다. 다만 듣고 싶어 하지 않는 사람들에게 아무 말이나 하고 긍정적인 반응만 받을 권리는 누구에게도 없습니다. 아무리 신나는 일이어도 그 흥분을 함께할 사람들이 있는 자리에 가기 전까지는 속으로 삼켜야 할 때가 있습니다. 그러니까 bsky는 그가 그런 흥분을 나눌 곳이 아닌 걸 수도 있다는 거고, 제 생각에 그게 좋은 것도 나쁜 것도 아니지만, 꽤 큰 청중을 키워 놓았다면 그 점을 아는 게 중요합니다.
(어쩌다 그렇게 됐는지 모르겠습니다.)
매체 자체의 본질입니다. 트위터 같은 형식은 본질적으로 독하고 구제 불능이라 고칠 수 없습니다.
좋아요와 리포스트가 있는 마이크로블로그 형식은 뇌간을 찔러 대는 짧고 강한 전파력의 콘텐츠를 골라냅니다. 분노 유발 글, 트롤링, 린치 군중, 멍청한 브레인 롯 같은 것이 이 매체에 딱 맞는 콘텐츠 형태입니다. 뉘앙스가 있고 진짜 통찰력 있는 생각은 너무 깁니다.
저는 짧은 콘텐츠 자체가 나쁘다고 생각합니다. 숏폼 영상은 적극적으로 독하지는 않은 것 같지만 더 생각 없고 주의력을 파괴합니다. 짧은 콘텐츠는 담론의 정제 설탕입니다(경우에 따라서는 크랙이나 펜타닐이기도 하고요).
레딧 스타일 사이트(여기 같은)는 그보다 낫지만 여전히 이런 문제를 겪습니다. HN은 트롤링과 성의 없는 쓰레기에 비추천을 던지는 문화와 운영 방침 덕분에 최악은 피하고 있습니다.
HN이 그나마 제정신인 이유 하나는, 컴퓨터 덕후들이 오늘날 여전히 대체로 진짜 컴퓨터와 키보드로 글을 쓰는 몇 안 되는 집단이라는 점이라고 봅니다. 스마트폰은 작은 화면과 키보드 때문에, 거기서 글 잘 쓴다고 아무리 주장해도 긴 글을 쓰기 어렵게 합니다. 하지만 HN 사람들은 깊이와 뉘앙스가 있는 알찬 문단 몇 개를 치는 데 그런 장애물이 없습니다.