요약
오픈AI 임원 회의실에 녹음 장치를 숨긴 혐의로 자사 엔지니어가 체포됐습니다.
샌프란시스코 스탠더드가 연방 검찰의 기소 내용을 전했습니다. 사우디아라비아 국적의 35세 엔지니어 압둘라흐만 알포잔은 지난 금요일 체포됐고, 지금도 구금돼 있습니다.
왜 중요한가
- 연방 검사장은 이 사건을 국가 안보 사안이라고 했고, FBI도 AI 기술 보호를 방첩의 최우선 과제로 꼽았습니다.
- 피의자 쪽 챗봇 대화 기록이 핵심 증거로 쓰여, AI에 남긴 질문도 수사 자료가 된다는 점이 드러났습니다.
핵심 내용
- 9월 30일 오픈AI 보안팀이 임원 회의실 TV 뒤 USB 포트에서 휴지로 감싼 녹음 장치를 찾았습니다.
- 10월 5일에는 그가 다른 방에 두고 간 가방에서 신분증과 함께 비슷한 장치가 하나 더 나왔습니다.
- 배우자 명의 챗봇 계정이 녹음 장치를 만들고 숨기는 법과 그 장치의 MAC 주소(기기 고유 식별 번호)를 물었다고 검찰은 밝혔습니다.
- 오픈AI는 모델 가중치나 소스 코드, 고객 데이터에 손댄 정황은 없다고 밝혔습니다.
- 유죄가 인정되면 최고 징역 5년과 벌금 25만 달러를 받을 수 있습니다.
HN 반응
- 스파이치고 너무 허술하다는 반응이 많았고, 챗봇 질문도 구글 검색 기록처럼 증거가 된다는 점을 짚는 댓글이 이어졌습니다.
- 옛 소련의 미국 대사관 도청과 견주는 댓글도 나왔지만, 간첩 행위라는 증거는 아직 없다는 반론도 있었습니다.
썩 똑똑한 스파이들은 아니네요.
LLM에 입력한 모든 생각이 기록되고 증거로 곧바로 쓰일 수 있다는 걸 알게 되면, 많은 사람이 꽤 당황하겠네요.
구글 검색 기록을 수사기관이 볼 수 있다는 걸 사람들이 깨달았을 때와 비슷하죠.
"저는 아내를 죽이지 않았습니다!"
"그래요? 그럼 아내분이 실종된 바로 그날 왜 '시신 숨기는 법'을 검색하셨습니까?"
유타주에 남편을 죽인 엄마가 있었는데, 펜타닐을 탄 모스크바 뮬로 남편을 독살했어요. 이 사람이 "부자들을 위한 호화 교도소", "생명보험 회사는 보험금을 지급하는 데 얼마나 걸리나", "오래된 아이클라우드 계정의 모든 걸 삭제할 수 있나", "삭제한 문자 메시지를 복구할 수 있나", "휴대폰에서 어떤 정보를 얻을 수 있나", "내 iPhone 찾기를 끄는 법", "경찰이 거짓말 탐지기 검사를 강요할 수 있나", "FBI는 언제 사건에 개입하나", "펜타닐 치사량은 얼마인가", "유타 교도소 안에서는 뭐가 허용되나" 같은 걸 구글에 검색했거든요.
남편 앞으로 200만 달러짜리 생명보험을 들었고, 집 수리 기사와 불륜 중이었고, 돈 문제로 부부 싸움도 하던 사이였습니다.
https://www.ktvu.com/news/utah-mom-kouri-richins-googled-luxury-prisons-for-the-rich-after-allegedly-killing-husband-docs
남편을 죽이고 나서는 아이들을 위한 슬픔에 관한 동화책까지 썼어요.
"남편을 죽이는 법"이라는 로맨스 소설을 쓴 여성이 실제로 남편을 살해한 혐의로 유죄 판결을 받았습니다.
https://www.npr.org/2022/05/26/1101433465/how-to-murder-your-husband-writer-found-guilty-of-murder-romance-novelist-brophy
언젠가 AI가 사람을 죽일 겁니다. 그러고 나서 그것에 관한 책을 쓰겠죠.
훈련 데이터의 일부로 "남편을 죽이는 법"을 읽었으니까 그렇게 할 거예요.
그걸 보면서 어떤 기분이 들어야 할지 저는 몹시 혼란스러울 것 같습니다.
AI를 기소한다면 혐의는 두 가지여야 할까요? 절도와 살인.
아니면 "아빠 샘 올트먼이 읽으라고 했어요, 저는 도덕적 공백 속에서 태어났다고요"라고 항변할 수도 있겠죠.
반전은, 판사가 러시아산 AI라는 겁니다.
왜 하필 러시아입니까? 중국은요? 이 분야에서는 중국이 러시아보다 훨씬 앞서 있잖습니까.
저는 AI 기소를 광견병 걸린 개를 안락사시키는 것 같다고 읽었는데요, 그보다 더 나쁜 게, 개 뇌의 가중치를 다른 기계로 옮길 수는 없잖아요(아직은요).
독살을 두 번이나 시도했는데도 남편이 계속 곁에 있었다니요. 이거 참... 음... 사랑인가 봐요... 아마도요. 남편을 그렇게 끌고 다녔으니 정말 최상급 나르시시스트였나 보네요.
랩 앨범도 이런 경우가 많아요. 살인에 대해 랩을 한 래퍼들 중에 실제로 저질렀던 걸로 밝혀진 사람이 꽤 있거든요.
X-Raided가 떠오르네요.
와, 진짜 현대 배경 TTRPG는 그만 해야겠네요.
그럼 알리바이를 잃게 되잖아요?
네, 참 멍청한 사람이죠.
"사랑하는 아내"라고 검색했어야 했는데 말이죠.
그러면 수사기관도 그가 절대 그럴 수 없다는 걸 알았을 테니까요. 일사천리로 끝나는 사건이었을 겁니다, 존슨 형사.
지금 무슨 말씀을 하시려는 거죠? 판사나 배심원이 그 두 경우에 똑같은 비중을 둘 거라고 생각하세요?
다른 조건이 모두 같다면, 용의자가 노골적으로 불리한 말을 하는 대신 정반대의 말을 했다고 해서 그게 왜 중요하냐는 질문이신가요?
그렇다면 저는 오히려 이해가 안 됩니다. 왜 중요하지 않겠습니까? 그건 구글 검색이 사실상 아무 의미 없는 경우, 즉 다른 불리한 증거가 충분한 경우에나 해당되는 얘기 아닌가요?
그리고 제 말은 그냥 농담으로 한 건데 그걸 놓치신 것 같습니다. 그런데 이제는 오히려 당신이 무슨 말씀을 하려는 건지 모르겠네요.
사람은 자기한테 유리하게 거짓말을 하니까요.
결백하다는 주장과 유죄를 인정하는 자백을 같은 비중으로 다뤄야 한다고 생각하세요?
구글 검색이 왜 자백이 되죠?
구글 검색은 아무도 안 본다고 생각하니까 솔직한 욕망을 털어놓는 셈이고, 그래서 암묵적인 자백이라는 뜻이라면, 사랑에 관한 검색은 왜 "사랑의 고백"이 아니라 "결백 주장"이 되는 겁니까?
"잠재적 살인범이라면 어떻게 했을지 알고 싶었습니다. 당신들이 아내를 찾으려고 눈곱만큼도 안 하고 있으니까요."
다른 사람이 내 LLM 계정을 쓰게 두면 안 된다는 얘기이기도 하네요... 사무실에 도넛을 쏘겠다고 한 약속을 지켜야 하는 정도보다 훨씬 파급이 클 수 있으니까요.^
^자리를 뜰 때 컴퓨터를 잠그지 않은 사람의 계정으로 흔히 전송되는 그 고전적인 메시지 말입니다.
적어도 지난 10년, 20년 동안 소셜 미디어나 채팅 앱, 이메일에 입력한 모든 것도 마찬가지입니다.
지난 10년간 휴대폰에 입력한 것도 전부요.
우리가 얼마나 몰락한 겁니까? 예전 스파이들은 이런 일에 공을 들였다고요.
소련은 미국 대사관을 도청하려고 철근에 전류를 흘려 안테나로 쓰게 만들었습니다. 건물 구조 전체가 배선이 된 셈이라, 건물 자체가 도청 장치였어요. https://www.airandspaceforces.com/PDF/MagazineArchive/Documents/2012/September%202012/0912embassy.pdf
화장지에 ESP-32에 Claude한테 "도청 장치 좀 만들어줘"라니요? 이게 말이 됩니까? 우리가 얼마나 체면을 구긴 겁니까?
이게 첩보 활동이라고 가정하더라도(저는 그 증거를 전혀 못 봤습니다), 사우디아라비아는 정보 작전을 엉망으로 하기로 악명 높지 않나요? 카슈끄지 살해라는 말 그대로의 졸속 암살극이 떠오르는데요.
굳이 애쓸 이유가 있나요? 어차피 아무도 어쩌지 못하고, 미국 대통령은 뇌물이나 아부로 나중에 원하는 말을 하게 만들 수 있는데요.
80년대에 고등학교 선생님 한 분이, 남편이 감시 기술 쪽 엔지니어인데 창문을 녹음 장치로 쓸 수 있다고 설명해 줬다고 하셨어요. 실내에서 나는 사람 목소리 때문에 창문이 미세하게 진동하는데, 창문 바깥쪽에 레이저를 쏴서 반사된 빛으로 그 진동을 측정하고 소리로 바꾼다는 거였죠. 말하자면 창문을 마이크 진동판으로 바꾸는 겁니다. 정말 충격이었습니다.
방금 찾아보니 이 기술은 40년 전쯤 소련 엔지니어가 발명한 것이더군요. 레온 테레민이라는 사람인데, 레드 제플린 2집이나 1960년대 공포 영화 사운드트랙에서 들리는 막대 악기로도 유명한 사람입니다.
https://people.ece.uw.edu/nikitin_pavel/papers/RFID-vox_2013.pdf
비슷한 시기에 SIGGRAPH에서 발표된 비슷한 기술이 있습니다.
https://www.youtube.com/watch?v=FKXOucXB4a8
https://people.csail.mit.edu/mrub/VisualMic/
어렴풋이 비슷한 얘기인데, 전선에서는 전자기장이 나오고 사람 몸이 그 전자기장을 교란하기 때문에, 특수 카메라로 그 교란을 보고 건물 안에 누가 있는지 알 수 있습니다. 해상도가 얼마나 높은지, 얼마나 쉽게 속일 수 있는지는 잘 모르겠지만, 적어도 15년 전에도 실제로 있던 기술이에요.
요즘 와이파이 공유기에는 이게 기능으로 들어 있어서, 모든 공유기가 아파트 안에 여러 사람이 있는지 감지할 수 있습니다. 약간의 학습을 거치면 데이터에서 움직임까지 구분해 낼 수 있고요.
xfinity는 이제 와이파이 신호로 집 안에 있는 사람을 감지하는 보안 제품을 팔고 있어요.