요약
브라질 단체들이 메타가 법원 명령 뒤에도 보우소나루 쪽에 유리하게 굴고 있다는 증거를 선거법원에 냈습니다.
슬리핑 자이언츠 브라질과 CTRL+Z 두 단체가 10월 19일 브라질 고등선거법원(TSE)에 새 증거를 냈습니다. 두 단체는 메타의 WhatsApp, 인스타그램, Meta AI가 룰라 대통령과 플라비우 보우소나루 상원의원 캠프를 여전히 다르게 대한다고 주장했습니다.
왜 중요한가
- 검색 순위와 AI 답변 같은 플랫폼 내부 작동이 선거 공정성 문제로 법정에 올랐습니다.
- 법원이 이미 같은 기준을 적용하라고 명령한 상태라, 위반이 인정되면 하루 50만 헤알인 벌금이 100만 헤알로 오를 수 있습니다.
- 단체들의 요구가 받아들여지면 메타는 이미지 순서, 해시태그 추천, AI 답변을 정하는 기준을 밝혀야 합니다.
핵심 내용
- WhatsApp GIF 검색에서 '브라질'을 치자 계정 세 곳 모두에서 플라비우 보우소나루 이미지가 맨 위에 나왔습니다.
- '도둑(ladrão)' 검색에서는 죄수복을 입은 룰라 풍자화와 노동자당 지지자를 조롱하는 이미지가 나왔습니다.
- 인스타그램에서 '룰라'를 치면 '#lulaladrão'(룰라 도둑)가 첫 추천 해시태그로 떴고, 보우소나루 비판 해시태그는 끝에 놓였습니다.
- Meta AI가 1~25 사이 숫자로 두 후보의 기호인 13과 22를 고른 실험도 냈지만, 기사는 이것만으로 편향이 증명되지는 않는다고 짚었습니다.
- 메타는 고의로 특정 후보를 편든 적이 없고, 앞선 문제는 기술 결함 때문이라고 해명했습니다.
HN 반응
- 숫자 고르기나 GIF는 증거로 약하다는 지적에, Meta AI가 홍보물에 보우소나루 기호만 넣는다는 경험담과 룰라 캠프 계정 정지 사례로 반박하는 댓글이 이어졌습니다.
- 그림자 차단(몰래 노출을 줄이는 조치)은 흔해서 자기 진영 피해만 눈에 띈다는 반론과, 케임브리지 애널리티카 사례를 들어 소셜 미디어의 여론 조작을 경계하는 의견이 맞섰습니다.
여기서 저는 이 주장들이 타당하다는 확신이 확 꺾였습니다.
소셜미디어 알고리즘의 투명성을 규제하자는 데는 저도 전적으로 찬성합니다. Meta가 외국 세력에 휘둘리고 있다는 것도 분명 맞고요. 하지만 하필 숫자 점치기와 GIF 같은 한심한 문제로 싸워야 할까요? 이 증거로는 제목을 전혀 뒷받침하지 못합니다.
예로 든 사례는 특히 약하지만, Meta AI의 진짜 스캔들은 선거운동 자료를 만들어 달라고 하면 요청하지 않았는데도 알아서 보우소나루의 번호(22)를 넣어 만든다는 점입니다. 그런데 룰라의 번호인 13 같은 다른 번호로는 만들어 주지 않고, 특정 후보를 위한 건 못 한다고 합니다. 따져 물으면 보우소나루 관련 자료를 만들 때 일관성이 없었다고 인정하지만, 새 대화창에서는 어김없이 또 그렇게 합니다. 이 스레드에 올라온 글을 예로 보세요.
https://www.reddit.com/r/brasil/comments/1x965on/eu_n%C3%A3o_levei_muito_%C3%A0_s%C3%A9rio_o_neg%C3%B3cio_da_ia_da/
여기서 쓸모 있을 만한 건 WhatsApp 안의 Meta AI 시스템 프롬프트를 유출하는 일이겠죠.
이건 수많은 주장 중 하나일 뿐입니다. 예를 들면 이런 것들이 있습니다.
Meta는 선거일 일주일 전에 룰라의 페이스북 계정을 정지시켰고, 그의 캠페인과 관련된 광고용 인스타그램·페이스북 계정도 여러 개가 계속 정지됐다가 며칠씩 늦게 복구됐습니다(선거운동에서는 엄청난 손실입니다).
경쟁 후보들의 도달 범위는 설명할 수 없는 수준으로 부풀려지는 반면, 사람들은 lula를 검색해도 룰라의 프로필을 찾는 데 애를 먹고 있습니다. 게다가 니콜라스 페헤이라 같은 사람은 영상이 팔로워 수의 몇 배씩 꾸준히 도달하고, 킴 카다시안, 비욘세, 메시 같은 사람들보다 조회수, 좋아요, 공유 수가 몇 배나 많습니다. 포르투갈어를 쓰고 브라질 문제만 이야기하는 브라질 정치인인데도요. 얼마 전에는 소리도 없는 영상 하나가 몇 시간 만에 조회수 6천만에 도달했습니다.
유권자들과 온라인 선거운동을 조율하던 룰라의 대형 WhatsApp 채널은 계속 정지당했습니다.
룰라의 플랫폼 문제와 관련해 자신들이 올린 신고를 미국 본사 팀이 처리해 주지 않는다고 토로하는 브라질 META 직원들의 증언도 있습니다.
문제가 너무 많아서 글이 길어질까 봐 여기에 다 적을 수도 없습니다. 너무 뻔합니다.
저도 Meta AI 어시스턴트에서 직접 본 적이 있다고 보증할 수 있습니다. 가까운 친구들과 동료들도 똑같은 행동을 겪었고요.
예전에는 수면 아래에서 벌어지는, 눈총 받는 수법이었는데, 지금은 AI 덕분에 훨씬 만연하고 영향력도 커졌습니다.
고맙습니다. 정황 증거로 치면 그쪽 증거가 더 흥미롭고, 조사해 볼 만한 이유가 됩니다.
이제 이 스레드를 쭉 훑어보세요. 대부분의 글쓴이가 이 정도 증거에 만족하는 듯하고, 심지어 대응책으로 중국식 인터넷 검열을 요구하는 사람까지 있다는 데 놀라실 겁니다. 계몽된 진보주의자들조차 적에 대해 최악을 믿고 싶어지면 인지 편향 앞에서 속수무책이라는 걸 잘 보여 주는 사례죠.
맞아요, 일부 댓글러들은 AfD나 르펜이나 보우소나루 같은 이들이 미국 빅테크의 (개입) 없이 대중의 지지를 얻었다는 게 도무지 믿기지 않나 봐요. 정말 어이가 없죠. 힐러리가 졌다는 걸 받아들이지 못하고 러시아 탓을 하던 논리와 똑같아 보여요. 설령 그게 사실이었다 해도 자기네 정책과 선거운동 방식을 돌아보고 뭔가를 배웠어야 하잖아요. 여기선 강화학습의 피드백 루프가 없는 세상에 사는 것 같아요.
다른 댓글러들한테는 미국 빅테크가 EU와 남미의 우파 정당들과 이념적으로 같은 편이라는 사실이 마찬가지로 믿기지 않는 모양입니다. 더 나아가 현 미국 행정부가 유권자의 이익이 아니라 자기 이익에 봉사하는 지도자들이 당선되도록 노골적으로 응원하고 있다는 것도(이해는 갑니다), 미국 빅테크가 전적으로 미국 행정부의 통제를 받고 그 노예가 되어 있다는 것도요. 정말 어처구니가 없습니다.
믿기지 않는 게 아닙니다. 대부분은 오늘날 VC 업계에서 '성공'하는 방법이 그거라서 동의하는 것뿐이에요. 그들은 우파가 어쩐지 표현의 자유를 지지하는 척도 하는데, 이스라엘 비판이나 팔레스타인 지지처럼 우파가 검열하고 싶어 하는 모든 것은 당연히 외면하죠.
게다가 '좌파'를 '사회 문제에서 내 마음에 안 드는 모든 것'과 뭉뚱그리기가 쉬운 것도 한몫합니다. 제도권 좌파는 사실상 경제 이야기를 피하려고 사회 정치 이야기를 선호하는 신자유주의자들이니까요.
정말 훌륭한 분석이네요, 감사합니다!
당신은 답글을 받은 그 사람이 보여 준 이해 수준에 만족했잖아요.
그러고 나서 그 사람은 기사나 읽어 보라는 정중한 말과 함께 생각보다 더 알찬 내용을 받았고요.
그런데 당신은 뭘 했죠?
꽤 아이러니하네요.
검열이란 정보 조작과 정신 통제 도구를 적대적인 외국 세력의 손에 넘겨주지 않는 것이라는 거죠. 네, 그러시겠죠.
증거로 말하자면, 부모 댓글의 시시한 예시 말고도 충분히 기록돼 있고, 특정 의견을 가진 인기 계정을 섀도밴하는 것도 거기에 포함됩니다.
섀도밴은 기저 발생률이 높습니다. 자기편이 당하면 눈에 띄어서 편향의 증거로 받아들이지만, 반대편이 당하는 건 내 주변 사람들이 아니라서 그만큼 꼼꼼히 지켜보지 않으니 알아채지 못하죠.
장담하는데, 당신의 정치적 반대자들도 Meta가 자기들을 섀도밴하려 한다고 생각할 겁니다.
그런 비꼬는 말은 "외국 대리인", "바람직하지 못한 단체", "극단주의 단체" 같은 것에 관한 푸틴의 모든 법을 정당화해 줍니다.
푸틴(그리고 다른 많은 권위주의 정권)의 간교한 점은 반민주적이고 반인간적인 정책을 상대편이 쓰는 말로 포장할 수 있다는 겁니다.
그러니 푸틴은 말만으로 무엇이든 정당화할 수 있어요. 그들이 하는 말은 별로 중요하지 않고 현실을 반영하지도 않습니다. 중요한 건 행동과 결과입니다.
푸틴이 적어도 한 사람을 외국 대리인이라고 거짓으로 몰았다는 이유만으로 모든 외국 대리인이 어디서든 자유롭게 활동하도록 놔둬야 한다는 건가요? 요즘은 스파이 활동이 참 쉽겠네요.
다음 두 가지를 부정하십니까?
A: 소셜미디어는 케임브리지 애널리티카 스캔들과 수많은 다른 연구에서 드러났듯이 표적 정치 조작에 쓰일 수 있는 정신 통제 도구다.
B: 미국은 계속되는 위협, 금수 조치, 관세 전쟁, 쿠데타, 그리고 최근 뻔뻔하게 선언한 "돈로 독트린"이 증명하듯이 남미에 대해 적대적인 외국 세력이다.
?
저는 소셜미디어가 표적 정치 조작에 쓰일 수 있는 정신 통제 도구라는 데 동의하지 않습니다. 그런 현상의 예라고 사람들이 내놓는 것들은 거의 다 "소셜미디어 때문에 내가 동의하는 좋은 메시지 대신 내가 동의하지 않는 나쁜 메시지를 많은 사람이 보게 됐다"로 귀결됩니다. 시위에서 외치는 귀에 쏙 들어오는 구호까지 정치적 조작으로 보는 아주 넓은 관점을 취하지 않는 한, 그 영향력은 그렇게 강하지 않습니다.
제공자가 알고리즘을 건드려서 자신의 정치적 선호에 반하는 정보를 걸러낼 수 있다면, 그게 어떻게 효과가 없거나 표적 정치 조작이 아니라는 겁니까? 민주주의라는 개념은 시민이 충분한 정보를 얻어 결정을 내릴 수 있다는 것을 전제로 합니다.
현재 상태에서도 정보는 온갖 공식, 비공식 필터를 거치기 때문에 필터 하나가 더 붙는다고 판세가 크게 달라지지는 않습니다. 미국에서는 대부분의 미디어 플랫폼이 백신 반대 운동의 정보를 노골적으로 걸러내서 억누르려 했는데도, 최근 이 운동이 영향력이 너무 커져 국가 보건 당국을 장악해 버렸습니다.
2017년에 이런 걸 본 기억이 납니다. "논란이 되는 이 관행은 단체들이 정치 캠페인 중에 표적의 성격 유형에 맞춰 메시지를 다듬을 수 있게 해 준다." ! https://www.theguardian.com/technology/2017/jul/31/facebook-dark-ads-can-swing-opinions-politics-research-shows
다시 확인해 보세요, 그보다 훨씬 많습니다.
기사에 나온 사례 상당수는 그게 맞는 것 같아요. "Lula ladrão(도둑 룰라)"는 큰 밈이지만 많은 사람이 그래서는 안 된다고 생각하고, 그러니 인스타그램 검색 색인에서 'Lula'가 'ladrão'와 그렇게 강하게 연결된 건 부당하다는 거죠.
당신이 답글을 단 그 말은 이 기사에 한정된 얘기가 전혀 아닙니다. 소셜미디어 버블이 양극화를 부추긴다는 증거와 연구는 아주 많아서, 지분을 가진 사람이 아니고서야 못 볼 수가 없을 정도입니다.
그것들이 양극화를 부추긴다는 데는 분명히 동의합니다. 비슷한 말을 많이 하는 사람들 사이의 정중한 의견 차이를, 서로 다른 세상에 사는 사람들 사이의 격한 대립으로 바꿔 놓죠. 하지만 그게 "정신 통제"라고는 생각하지 않습니다.
글쎄요, 양극화된다는 게 무슨 뜻인지 좀 더 깊이 생각해 보세요. 그걸 보여 주려면 내면의 신념이 어때야 할까요?
힌트를 드리자면, 같은 신념에 분노가 더해진 게 아닙니다. 분노는 대리 지표일 뿐 양극화 자체가 아니에요.
저는 정말로 같은 신념에 분노가 더해진 거라고 생각합니다. 20년 전에도 저는 정치적 반대자들과 실질적인 정책 문제에서 적어도 지금만큼은 의견이 달랐지만, 그때는 그들에게 이만큼 양극화되지 않았습니다. 그들의 구호와 메시지 전략이 소셜미디어 플랫폼에서 저를 화나게 해서 최대한 퍼지도록 최적화되어 있지는 않았으니까요.
제 말을 오해하셨네요. 당신이 설명하는 건 양극화가 아닙니다. 아마 실제로 겪어 보신 적이 없는 거겠죠. 양극화의 정의는 "정치적 태도가 중도에서 멀어져 이념적 극단으로 향하는 것"입니다.
이건 측정이 된 현상이고, 그 증가는 (모든 나라에 동시에 도입된 것도 아닌데) 나라마다 알고리즘 기반 소셜미디어가 도입된 시점과 맞물려 있습니다.
좋아요, 그럼 "투표 + 숫자"는요? 이렇게 적혀 있잖아요. "인스타그램에서 같은 단어를 검색하자 'Vote 13'이라고 적힌 GIF가 나왔다."
"숫자 점치기와 GIF"라고 치부하는 건 그렇다 쳐도, 주권국가의 합법적인 선거를 고의로 교란하는 건 또 다른 문제죠.
아니면 10년이면 정말 긴 세월이라서 우리 모두 케임브리지 애널리티카를 잊어버린 건가요?
https://en.wikipedia.org/wiki/Cambridge_Analytica
특히나 그게 우리 선거가 외국의 간섭을 받는다고(실제로는 아닐 때조차) 목청껏 징징대던 바로 그 사람들이라면요. 남에게 그런 짓을 하는 사람은 자기가 당한다고 생각할 때(실제로는 아닐 때도) 할 말이 하나도 없는 겁니다. 어릴 때 처음 배우는 교훈이 "거짓말은 나쁘다"와 "잘못에 잘못으로 맞서면 안 된다"인데요. 우리 대부분이 코흘리개 때 배우고 이해한 교훈을 (명색이 어른인) 나라와 기업의 책임자들이 감당하지 못한다는 게 황당할 따름입니다.