요약
마크 큐번은 페이스북이 자신을 도용한 AI 딥페이크 사기 광고를 알면서도 내보낸다고 비판했습니다.
투자자 마크 큐번은 8월 팟캐스트 Pivot에 나와, 팔지도 않은 294달러짜리 당뇨병 치료제를 묻는 노인들의 메일을 매주 받는다고 말했습니다. 그의 얼굴과 목소리를 흉내 낸 딥페이크 광고 때문입니다. 머니와이즈는 이 발언을 로이터의 메타 내부 문서 보도와 엮어 정리했습니다.
왜 중요한가
- 내부 문서에 따르면 메타는 사기 의심 광고주라도 확률이 95%에 못 미치면 막지 않고 광고비를 더 받습니다.
- 큐번은 노인을 노린 사기를 방치하는 태도에서 메타 조직 문화 전반이 드러난다고 봤습니다.
- FBI 집계로 60세 이상이 신고한 2025년 피해액은 77억 달러로, 전년보다 59% 늘었습니다.
핵심 내용
- 로이터가 보도한 내부 문서는 2024년 매출의 약 10%인 160억 달러가 사기·금지 상품 광고에서 나온다고 추산했습니다.
- 2025년 5월 메타 안전팀 발표는 미국에서 성공한 사기의 3분의 1에 메타 플랫폼이 관여한다고 봤습니다.
- 일부 광고에는 AI로 만든 오락물이라는 고지가 붙지만, 큐번은 그 문구를 볼 때쯤이면 이미 속은 뒤라고 지적했습니다.
- 메타 대변인 앤디 스톤은 문서가 일부만 보여 준다고 반박하며, 2025년에 사기 광고 1억 3,400만 건 이상을 지웠다고 밝혔습니다.
- 문서에는 미국 증권거래위원회(SEC)가 금융 사기 광고와 관련해 메타를 들여다보고 있다는 내용도 있습니다.
HN 반응
- 광고를 싣는 플랫폼에 법적 책임을 지워 심사를 강제하자는 의견이 많았고, 자동화를 핑계로 몰랐다고 빠져나간다는 지적도 이어졌습니다.
- 모든 게시물까지 책임지게 하면 검열이 심해진다는 반론이 나왔지만, 돈을 받고 싣는 광고는 걸러 내지 못할 변명이 없다는 답이 뒤따랐습니다.
광고주에게 자기가 내보내는 광고에 대한 책임을 지우세요. 광고를 검수하게 하거나, 아니면 아예 광고를 싣지 못하게 해야 합니다.
메타가 광고를 너무 많이 받아서 검수를 못 한다면 그건 메타가 감당할 몫입니다. 사람을 더 뽑거나 광고를 덜 받아야 합니다.
이상적으로는 광고 산업이 완전히 사라지고, 질 좋은 광고 소수만 살아남게 될 것입니다.
광고 업계는 수백 년 동안 한 가지만 잘하도록 훈련받은 사람들이 움직입니다. 여러분의 유한한 주의력(Attention)을 캐내는 방법을 찾는 일이죠. 이들은 하루 24시간 내내 그 생각만 하고, 이미 수천 가지 방법을 찾아냈습니다. 그러니 한 번에 길목 한두 개를 막아 봐야 소용이 없습니다.
지금까지 인간의 주의력은 희소한 천연자원으로 취급받지 못했습니다. 그래서 한정된 어장을 두고 누구나 마음껏 남획하는 난장판이 벌어지고 있습니다.
정치인과 입법자들도 같은 방식으로 주의력을 거둬들이기 때문에 광고·광고기술 업계는 규제 포획(regulatory capture) 상태입니다. 큰 공적 재앙이라도 터지지 않는 한 담배 업계가 여전히 잘 굴러가는 것처럼, 이 업계도 결코 무너지지 않을 겁니다.
가장 큰 길목 몇 개만 막아도 충분히 효과가 있을 수 있습니다. 소수의 대형 방송사가 있던 20세기 TV를 보세요. 너무 정신 나간 내용은 널리 퍼뜨리기가 쉽지 않았습니다.
인터넷에도 이미 그런 장치가 있습니다. 수상한 불법 복제 사이트에 가 보면 알 수 있는데, 거기서 보이는 포르노 게임 같은 광고는 페이스북이나 믿을 만한 웹사이트에서는 볼 수 없습니다. adsafe나 15개쯤 되는 대형 광고 거래소가 걸러내니까요. 그러니 가능한 일이고, 문제는 의지뿐입니다.
사실 그런 광고, 거기서도 보여요. 인스타그램에서도, Threads에서도 보이고, 훨씬 이상하고 막장인 것들도 많아요. 그게 바로 문제의 핵심이죠.
이런 광고 말고도, 긍정 리뷰를 써 주면 공짜 물건을 주겠다는 아마존 판매자의 제안, '합법'이라는 규제 대상 아닌 마약 유사체, 맛을 입힌 아산화질소(무료 배송!), 제한 없는 도박/예측 시장, 그리고 묘하게도 휴대전화/와이파이 재머까지 봤어요. 재머 광고는 대놓고 대형 트럭 운전사를 겨냥한 거였고요(저는 대형 트럭을 몰지도, 도박을 하지도, 규제 대상 아닌 마약 유사체를 검색하지도 않고, 활성 상태인 아마존 계정도 없는데 말이죠).
저는 이제 인스타그램을 쓰지 않지만, 설정에 들어가서 술 같은 카테고리의 광고를 끌 수 있었던 게 기억납니다. 그렇게 하고 나니 솔직히 꽤 관련성 높은 광고만 나오더군요(등산이나 러닝 장비 같은 것들).
그러니 이런 걸 제대로 알아보고 걸러낼 능력이 있다는 건 분명합니다.
비율은 훨씬 낮겠죠.
틀렸어요. 저는 그런 광고를 '소 떼 관리' 같은 완전히 말도 안 되고 상관도 없는 광고만큼, 아니 그보다 더 자주 봐요. 저는 소 농장에 살지도 않고, 근처에 살지도 않고, 소를 키우는 사람을 알지도 않고, 소 농장 근처에 사는 사람도 몰라요.
그 비율은 0이어야 하고, 적어도 0에 아주 가까워야 합니다.
책임을 최소화하고 자기들이 얼마나 엉망으로 일하는지 덮느라 쓴 돈이면, 접수되는 광고를 사람이 일일이 직접 훑어볼 인력과 분류기를 학습시킬 엔지니어링 팀을 충분히 고용할 수 있었을 거예요. 제 생각엔 역겨워요.
그건 고용주의 감시에 맞서려는 겁니다. 이제는 트럭 운전사에게만 국한된 얘기도 아니고, 자기 차가 보험사에 자기를 고자질하는 것에 맞서고 싶어 하는 사람도 정말 많습니다.
20세기 TV는 채널 수를 엄격히 제한해서 병목을 만들었습니다. 지금은 정반대 방향으로 가고 있는 듯합니다. 플랫폼마다 '채널'을 무제한으로 만들어 내고 있으니까요.
상황은 나아질 수 있다는 점을 늘 상기시켜 드립니다…
“상황이 나쁘다”는 말은 내 일을 삶을 더 낫게 만드는 쪽으로 맞춰야 할 좋은 이유입니다.
그게 아무리 어렵더라도, 퇴보가 아니라 진보는 거기서 나옵니다.
상황이 나쁘다는 말만 되풀이할 게 아니라, 여건을 개선하려는 모든 노력을 응원해야 합니다.
좋은 예가 있습니다. 예전에는 아동 노동을 쓰는 기업을 두고도 앞서 광고에 대해 하신 말씀과 똑같은 말을 했습니다. 지금은 그런 기업이 훨씬, 훨씬 줄었습니다.
맞아요. '앞으로도 주 7일 근무에 아이들이 위험한 공장에서 죽어 나가는 건 어쩔 수 없어!!'라고 말하는 건, 딱 권력자들이 계속 권력을 쥐게 만드는 파국론이고 태도예요.
맞서 싸우세요. 조직하세요. 현실에서 일을 해내세요.
몰록 문제(Moloch problem)는 개인의 행동으로 해결되는 경우가 드뭅니다. 이런 관행은 합법이고 돈이 되기 때문에, 광고를 하는 업계 주변에서 이런 수법을 쓰지 않고 먹고살기는 매우 어렵습니다. 결국 우리는 먹고살아야 하니까요. 이런 못된 방법을 쓰는 기업이 도덕적인 기업보다 더 크고 부유해지기 쉬워서, 생계를 꾸리는 일이 이중으로 어려워집니다.
그래서 최선의 대응은 공정한 시장을 강제하는 업계 규제를 밀어붙이는 것입니다.
맞는 말씀입니다. 이렇게 다시 정리하겠습니다. 인간의 주의력은 희소하고 유한한 자원으로 취급되어야 합니다. 그렇지 않으면 그들은 온갖 방법으로 남획할 수 있으니까요.
그걸 어떻게 실현하느냐가 1조 달러짜리 질문입니다.
이건 광고 전술의 문제가 아니라 규제 부재의 문제입니다.
그런 플랫폼은 보여 주는 모든 것에 책임을 져야 해요. 뭘 보여 줄지 고르는 건 플랫폼이니까요. '저는 아니고 알고리즘이 그랬어요' 하고 빠져나가는 게 허용된다는 게 저는 완전히 말이 안 된다고 생각해요. 진작에 바로잡혔어야 할 일이에요.
별로 좋은 생각이 아니에요. 그게 바로 지금 우리가 겪는 검열이잖아요. 틱톡에서는 총기 관련 채널도 '빵야빵야'라고 해야 하고, 책 리뷰하는 사람들은 줄거리를 설명할 때 'unalive'(죽음을 돌려 말하는 표현)라고 해야 해요. 거의 웃기는 수준이죠.
반면 광고주는 얘기가 달라요. 터무니없는 이익을 올리는 회사들이 뻔한 사기를 걸러내는 책임을 지지 않아도 될 이유는 없어요.
해법은 검열이 아닙니다. 대신 알고리즘 피드를 없애야 합니다. 알고리즘이 해로운 콘텐츠에 보상을 준다면 그 회사가 책임을 져야 합니다. 한편 '내가 팔로우하는 것만 시간순으로 보여 달라'는 방식은 편향이 없고, 수년간 잘 돌아갔습니다.
제 생각을 말로 정말 잘 옮겨 주셨습니다. 거기에 덧붙이자면, 알고리즘 피드가 꼭 있어야 한다면 가끔은 다른 것도 보여 주지 않은 채 사람들을 몰입의 구덩이로 끌어내려서는 안 됩니다. 예를 들어 페이스북은 맞춤 피드에 광고를 끼워 넣습니다. 그러니 의지만 있다면 "알고리즘"에 속하지 않는 것을 사람들에게 보여 주는 것도 가능하다는 얘기입니다.
알고리즘이 하려는 짓이 바로 그것이고, 그 때문에 사람들이 알고리즘의 심기를 건드리지 않으려고 'unalive'나 'PDF file'(소아성애자를 돌려 말하는 표현) 같은 우스꽝스러운 말을 쓰게 됩니다. 문제는 누군가의 '해로운 콘텐츠'가 다른 누군가에게는 순수한 책 리뷰, 혹은 그냥 오늘의 뉴스를 읽어 주는 것일 수 있다는 겁니다.
그런 알고리즘적 헛소리를 당신이나 당신의 해로운 콘텐츠 기준, 혹은 다른 누구의 기준으로 강제해서는 안 됩니다. 선택 사항이어야 합니다. 저는 그냥 시간순 피드를 받고, 대신 아이들에게는 부모 보호 기능으로 훨씬 엄격한 설정을 해 주면 됩니다. 예를 들면 그렇다는 겁니다.
사기성 물건을 알면서 유통했다면, 다른 누가 돈을 내고 모든 걸 자동화했더라도 책임을 져야 합니다.
윤리적으로는 누가 훔친 물건인 줄 알면서 파는 것과 별로 다르지 않습니다.
그래서 "자동화"하는 겁니다. 몰랐다고 주장할 수 있게요.
사실 "knowingly"[1]는 바로 그 점을 반영한 법률 용어입니다. 고의적인 무지나 진실에 대한 무모한 무시만으로도 기준을 충족합니다. 이런 법에서 가장 흔히 쓰는 법적 기준이 바로 이것이고, 적극적인 인식을 요구하는 "실제 인식(actual knowledge)" 기준이 아닙니다.
[1] https://www.law.cornell.edu/uscode/text/31/3729#b_1
그건 미국 연방법전 3729조에서 정의하는 "knowingly"이고, 허위청구법(False Claims Act)이라는 특정 법률의 일부입니다.
미국에서 모든 법과 청구에 적용되는 "knowingly"의 단일한 법적 정의는 없습니다.
게다가 이 특정 법에서도 피고가 "정보의 진위에 대한 고의적 무지" 상태로 행동했음을 입증해야 하는데, 여기에는 그 나름의 증거 기준이 있고 결코 사소하지 않습니다.
결론은 이렇습니다. 메타 같은 회사는 그럴듯한 부인 가능성(plausible deniability)을 처음부터 심어 둡니다. 완벽하진 않아도 법적으로는 다른 대안보다 더 효과적이기 때문입니다.
그게 바로 요점입니다. 자동화했다고 책임이 면제되어서는 안 됩니다.
“내 자동 잔디깎이가 아이들을 치고 다니는 줄 몰랐어요!”
회사에 책임이 없다는 뜻이 되어야 한다고 말한 게 아닙니다. 저는 이런 회사들이 이 문제를 어떻게 보고 어떻게 움직이는지를 말씀드린 것뿐입니다.
이런 이중 화법이 광고 때문에 생긴 거라는 건 아시죠? 광고주가 없었다면 'unalive'라는 말은 존재하지도 않았을 거예요.
저는 이 말을 오래전부터 해 왔습니다. 다만 고객 지원에 대해서요. 고객이 실제 사람과 연락하고 싶을 때 합리적인 시간 안에 연결될 수 있도록 법으로 의무화해야 합니다.