요약
WhatsApp 도움말 페이지에 AI만 읽는 지시문이 숨어 있었고, 그중엔 규제 기관을 추천하지 말라는 내용도 있었습니다.
리댁트(Redact)의 창업자 댄 솔트먼이 10월 8일 발견해 공개한 내용입니다. 화면에는 보이지 않고 AI 시스템에만 전달되는 글이 도움말 545쪽 가운데 80쪽에서 102개 블록으로 나왔습니다.
왜 중요한가
- 공개된 개인정보 처리방침은 아일랜드 데이터보호위원회에 민원을 낼 수 있다고 안내합니다. 숨은 지시문은 지원 답변에서 이 안내를 빼게 했습니다.
- 지시문은 검색엔진 크롤러(웹 페이지를 수집하는 프로그램)에도 전달됐습니다. 다른 AI 도우미가 이를 따랐는지는 아직 확인되지 않았습니다.
핵심 내용
- 휴대폰이나 번호를 잃어 계정을 지우지 못하는 사용자에게 규제 기관 연락을 권하지 말라는 지시가 있었습니다.
- 같은 지시문은 WhatsApp이 직접 계정을 지워 줄 수 있다는 안내도 막았습니다.
- 신고·차단 페이지에서는 사용자가 변호사나 소송을 꺼내면 GDPR(유럽 개인정보보호법)과 CCPA를 인용하지 말라고 했습니다.
- 지시문은 10월 18일에 사라졌고, WhatsApp은 와이어드에 챗봇용 지시가 버그로 드러났으며 이미 고쳤다고 밝혔습니다.
- 같은 시스템을 쓰는 페이스북·인스타그램 도움말 300쪽에서는 비슷한 지시문이 나오지 않았습니다.
HN 반응
- 챗봇용 법률 면책 문구일 뿐이라는 해석과, 직접 삭제가 안 된다는 거짓말을 시켰다는 비판이 맞섰습니다.
- 번호를 잃은 사람이 계정 주인임을 어떻게 증명하느냐를 두고, 전화번호 재할당과 GDPR 삭제 권리가 부딪친다는 논쟁이 길게 이어졌습니다.
사람들은 아마 이걸 읽고 속으로 "그래, 그러시겠지" 하겠지만, 숨겨진 다른 텍스트를 보면 앞뒤가 맞는 것 같습니다. 페이지 뒤쪽에도 다음 내용이 담긴 숨은 텍스트가 있습니다.
실제로 자사 챗봇을 겨냥한 지시로 보입니다.
네, 대부분은 법적 면피용이지만 일부는 대놓고 악의적입니다.
이건 그냥 챗봇더러 거짓말하라는 겁니다.
이건 자기네 이용약관에 나온 내용과 어긋납니다.
너무 좁게 보고 계시네요. 더 넓은 지원 절차에서는 연락하라고 안내할 수도 있는데, 다만 봇이 그렇게 하는 걸 원하지 않는 것뿐일 수 있어요. 이게 그쪽 지원 절차의 전부는 아니니까요.
만약 봇이 규제 기관에 엉터리 민원을 쏟아붓게 했다면 그것도 욕먹었을 겁니다. AI에 관한 일이라면 일부 사람들 사이에서는 캐치 42(Catch 42)가 작동하는데, 그 탓에 가치 있는 논의를 가려내기가 그만큼 더 어려워집니다.
한 가지 방법은 사람을 고용해서 고객 서비스를 맡기는 거예요. 그러면 형편없는 AI 도입 때문에 욕먹을 걱정도 없고, NPS도 분명 오를 테고요. 게다가 더 많은 사람과 그 가족이 먹고살 수 있잖아요! 모두에게 이득이에요!
고객님은 350번째 대기자입니다. 조금만 기다려 주시면 곧 도와드리겠습니다
오늘만 빼고요. 오늘은 평소보다 통화량이 유난히 많아서 고객님 앞에 8.3e9명이 대기 중입니다.
AI가 사람 일자리를 "빼앗는다"는 얘기가 많은 게 웃겨요. 인류는 다 같이 덜 일하길 바라야 하는 거 아닌가요? 상위 1%가 세계 자원의 30~40%를 자기들이 쥐고 있으면서, 그렇게 많은 사람을 심리전으로 구슬려 "가족을 먹여 살리려면" 더 일해야 한다고 믿게 만든 게 놀라워요. 우리 대신 일해 줄 로봇이 있는데도, 1%를 설득해 평범한 사람들과 나누게 하는 대신 허드렛일 같은 고객 서비스로 시간을 보내는 쪽을 택하죠... (그 평범한 사람들이 사실 그들이 자기 것이라고 주장하는 모든 걸 만들어 냈는데도요)
문제는 안전망이 마련되기도 전에, 먹고 잘 곳을 얻으려면 반드시 있어야 하는 일자리를 잃는다는 겁니다. 우리가 일자리를 AI에 내주면 그 자리를 채우는 건 여유로운 삶이 아니라 가난한 삶일 겁니다. 안전망이 먼저 갖춰졌다면 이야기가 아주 달라졌을 수도 있지만, 우리가 사는 세상은 그렇지 않습니다.
맞아요, 제 말은 사람들이 직접 힘을 모아 만들지 않는 한 안전망은 결코 저절로 "마련"되지 않는다는 거예요. 자기 "일자리"를 걱정하는 것도 하나의 일이긴 하지만, 어쩌면 이제는 조직화를 시작할 때일지도 몰라요. 1%가 자기들만의 로봇 경찰을 갖추고, 우리 같은 민초가 굶어 죽는 걸로도 해결되지 않는 문제까지 처리하게 만들기 전에요.
"1%를 설득해 평범한 사람들과 나누게 한다"는 대목이 댓글에서 엄청난 짐을 지고 있군요. 그들은 인류를 어깨에 짊어지고 모두를 위한 낙원을 만들어 줄 친절하고 너그러운 사람들이 아닙니다. 그러고 싶었다면 UBI는 벌써 시행됐을 겁니다. 가족을 먹여 살리려고 더 일하고 싶은 사람은 아무도 없습니다. 다만 세계 인구가 그들이 완전히 통제하는 의존적 노예로 사실상 넘어가는 마당에, 1%가 조금이라도 자비로우리라는 믿음이 전혀 없을 뿐입니다.
음, 제 말이 바로 그거예요. 어느 정도 설득이 필요한데 저절로 되지는 않는다는 거죠. 스스로 그렇게 되도록 내버려 두지 않는 한, 그들이 완전히 통제하는 의존적 노예가 될 일은 없어요.
직장에서 일한다고 장기적으로 가족을 먹여 살릴 수 있는 건 아니에요. 어쩌면 조직화가 그럴 수 있겠죠.
서구 국가들은 명목상 민주주의인데, 국민을 위해 법을 몇 개 고치는 게 가능해야 하지 않나요? 비민주 국가들조차 조직화를 통해 대중의 처지를 개선해 온 적이 있고요. 어느 쪽이든, 기술 군주들에게 AI 대신 사람을 고용해 고객 서비스를 맡기라고 바라는 건 다가오는 문제의 해법으로는 아주 허술해 보여요.
우리 중 일부는 멍청한 사람보다 똑똑한 봇이 더 좋아요.
당신이 봇이 아니라 사람이라는 걸 증명해 보세요. 그래야 그 의견도 귀담아듣죠.
Catch-22를 말씀하신 건가요?
Catch-42는 질문을 찾아 헤매는 답을 위한 거예요.
그런데 그 "더 넓은 지원 절차"에 합리적으로 접근할 수 있긴 한가요? 아니면 아무것도 실제 사람에게 넘기지 않는 챗봇에 갇히게 되나요?
계정 삭제 UI를 쓰는 대신 직원에게 먼저 연락하는 게 기본값이 되길 원하지 않는 것처럼 들리는데요.
두 행동의 효과가 같다면 그럴듯한 설명이겠죠.
그게 이용약관과 어떻게 충돌합니까?
음, 그건 법에 어긋나니까 아마 이용약관에는 안 넣을 만큼 영리했겠죠.
AI 봇에게 뭔가를 말하지 말라고 하는 게 어떻게 법에 어긋나는 거죠?
제 생각에 그 지시는, 누가 봇을 괴롭혀서 대화 중에 DPA에 연락하라고 말하게 만든 다음 그걸 스크린샷으로 찍어 올리는 일을 막으려고 있는 것 같아요.
다행히 페이스북 같은 곳이 법을 어길 때는 법이 집행되지 않네요.
1년을 기다리면 계정이 자동으로 삭제되는 방식은 GDPR과, 자기 데이터를 정정하거나 삭제할 권리를 지키지 못합니다. 또 WhatsApp의 일반 절차로 이게 안 될 때는 규제 기관이 여러분의 권리를 집행할 수 있습니다.
제가 이해하기로는, 그게 정말 내 데이터인지 불분명하다는 맥락입니다(예를 들어 원래 전화번호에 접근할 수 없는 경우). 저는 법률 전문가는 아니지만, 그 권리가 적용되려면 소유를 입증하는 게 필수 전제 조건인 듯합니다.
당신을 전화번호와 연결해 주는 공개 기록이 있다면, 당장 접근하지 못한다는 이유로 자격이 박탈되어서는 안 됩니다.
그럼 공개 기록이 당신을 전화번호와 잘못 연결해 놓았다면, 정당한 소유자의 계정을 삭제할 수 있어야 한다는 건가요?
예전에 쓰던 번호라서 공개 기록이 당신을 그 번호와 연결한다면, 지금 그 번호를 쓰는 현재 소유자의 계정을 삭제할 수 있어야 하나요?
> 예전에 쓰던 번호라서 공개 기록이 당신을 그 번호와 연결한다면, 지금 그 번호를 쓰는 현재 소유자의 계정을 삭제할 수 있어야 하나요?
제가 예전에 쓰던 전화번호를 어떻게든 손에 넣은 사람이 제 WhatsApp 계정을 쓰고 있는 경우를 말씀하시는 건가요?
네, 당연히 제 계정은 제가 통제할 수 있어야죠. 그 밖에 누가 해킹해 들어왔든 상관없이요.
아니요, 부모 댓글은 예전에 갖고 있다가 버린 번호가 지금은 다른 사람 번호가 된 경우를 말하는 것 같습니다. 전화번호는 시간이 충분히 지나면 사용자가 한 명뿐이라는 보장이 없으니까요.
하지만 그 번호로 WhatsApp을 쓰려고 하면, 가입을 못 하거나, 원래 WhatsApp 계정이 만료될 때까지는 그 번호로 만들어 둔 다른 사람의 WhatsApp 계정을 쓰게 되는 것 아닌가요?
> 전화번호는 시간이 충분히 지나면 사용자가 한 명뿐이라는 보장이 없습니다.
기사를 보면 WhatsApp은 보장된다고 생각하는 것 같고, 전화번호를 곧 계정으로 삼는 논리도 그렇습니다. 문제는 거기에 있죠.