요약
니콘 현미경 영상 공모전 우승작이 AI 생성 흔적 때문에 우승을 박탈당했습니다.
니콘의 제16회 Small World in Motion(현미경으로 찍은 영상과 타임랩스를 겨루는 공모전) 우승자는 중국 칭화대학교의 닝 쉬 박사였습니다. 희귀 호흡기 질환을 앓는 아이의 기도에서 섬모(세포 표면의 가는 털)가 움직이는 영상이었는데, 과학자들이 AI 생성 영상의 징후를 찾아냈습니다.
왜 중요한가
- 심사를 통과한 작품의 문제를 바깥의 과학자들이 세포생물학 지식으로 잡아냈습니다.
- AI를 보정에만 썼다는 해명이 받아들여지지 않아, 과학 영상에서 AI를 어디까지 허용할지가 쟁점이 됐습니다.
- 니콘은 앞으로 출품 규칙과 평가 절차를 다시 살펴보겠다고 밝혔습니다.
핵심 내용
- 과학자들은 세포 크기와 구조가 이상하고, 구조물이 실제 세포에서는 볼 수 없는 방식으로 나타났다 사라진다고 지적했습니다.
- 플로리다대학교의 한 부교수는 섬모가 난데없이 생겨나는 모습을 AI 생성 영상의 전형적인 징후로 꼽았습니다.
- UT 사우스웨스턴 의료센터의 박사과정생 이언 도너번은 원본 이미지에 AI 생성 워터마크로 보이는 표시가 있다고 했습니다.
- 쉬 박사는 초해상도 광학 영상의 흑백 이미지를 잘 보이게 하는 데만 AI를 썼다고 해명했지만, 니콘은 조사 끝에 규칙 위반으로 판단했습니다.
- 우승은 작은 회충과 단세포 생물을 담은 베트남의 응우옌 남 녓에게 돌아갔습니다.
HN 반응
- 후처리(촬영 뒤 보정) 규칙은 원래 모호하다는 의견도 있었지만, 실제 대상을 찍어야 하는 영상에서 AI가 중요한 세부를 지어냈으니 실격이 당연하다는 반론이 많았습니다.
- 토론은 AI가 창작을 대신해도 되느냐는 일반론으로 크게 번졌고, AI가 쓴 소설을 자기 글처럼 공유했다는 경험담에는 남을 속인 것이라는 비판이 이어졌습니다.
왜 모든 게 AI 손을 타야 하는 걸까요? 정말 이해가 안 돼요. 얼마 전에도 캐나다 작가 한 명이 상을 받은 소설에 AI를 썼다는 의혹을 받아 논란의 한복판에 섰잖아요.
사람들은 왜 이렇게 쉽게 거기에 넘어갈까요? 그냥 게으름 때문일까요? 빨리 끝내려는 조급함? 우리는 새로운 걸 만들어내는 데 훨씬 더 뛰어난 존재라서, 그 기술을 쓰면 스스로에게 반칙을 하는 기분이 드는 거죠.
우리는 왜 맨손 대신 삽을 쓸까요? 왜 걷는 대신 자동차를 탈까요? 왜 함수를 전부 직접 짜지 않고 라이브러리를 쓸까요?
문제는 연속선으로 이어진 것을 이분법으로 나누려 한다는 점입니다. 인간은 도구를 쓰는 존재이고, 대부분의 동물은 무슨 일이든 전적으로 자기 몸에 의존합니다. 그게 우리의 가장 큰 강점이자 약점입니다.
정말 그럴까요? 그게 사실이라면 로켓은 적어도 1만 년 전에, 어쩌면 그보다 더 일찍 나왔을 겁니다. 이전 것들의 조합이 아닌 진짜 '새로운' 창작은 극히 드물고, 그마저도 대부분 자연과 부대끼다 순전히 운이 좋아서 발견된 것들입니다. 우리는 스스로가 얼마나 창의적이고 훌륭하고 대단한지에 대한 특정한 이야기를 즐겨 들려주지만, 나를 포함한 인간 행동의 대부분은 다른 인간의 행동을 되풀이해 베낀 것에 불과합니다.
네, 저는 우리가 AI 모델보다 창작을 훨씬 더 잘한다고 확실히 믿습니다. AI 모델이 하는 일은 학습한 내용을 공허하고 밋밋하게 토해내는 것뿐입니다. 음악이든 문학이든 미술이든, 거기서 정말로 개인적이고 독창적인 것이 나오는 일은 없습니다.
제가 이 모든 과대 선전에 왜 이렇게 반대하는지 아십니까? 이것이 정신에 독이기 때문입니다. 스스로 생각하고, 이해하고, 의문을 품는 일을 빼앗아 갑니다. 저는 이미 모델이 내놓는 결과물을 하나같이 곧이곧대로 받아들이는 AI 중독자들을 보고 있습니다.
소셜 네트워크 대부분이 특히 십대에게 해롭고 독이 된다는 건 이미 입증됐습니다. 거기에 이제는 스스로 생각하지 않는 문제까지 더해지는 겁니다.
컴퓨터에 떠넘기면 되는데 뭐하러 생각하겠습니까, 그렇죠?
그럼 그 AI 모델들은 나비에-스토크스 방정식의 해와 준 리만 가설(Quasi-Riemann hypothesis)의 증명을 학습했나 보네요.
그 주장은 글쓰기를 포함해 인간의 모든 혁신에 제기돼 왔습니다. 이번에는 맞을 수도 있겠지만, 저는 의심스럽습니다.
저는 이미 위키백과나 직접 해보기 유튜브 영상 같은 데 많은 걸 맡기고 있었습니다. 별로 다를 게 없어 보입니다.
얼마 전에 제가 좋아하는 세계관을 배경으로 ChatGPT Astra에게 단편소설을 여러 편 쓰게 했어요. 몇 편을 공유했는데, 그중 하나는 사람들이 근래 읽은 단편 중 손꼽히게 좋다고 엄청나게 칭찬하는 데 그치지 않고, 여러 매체에 투고해 보라고 적극적으로 권했죠.
AI가 쓴 거라고 밝히자 다들 곧바로 말을 뒤집더니 사실 처음부터 싫었다, 누가 봐도 어디서 베낀 티가 난다고 하더군요.
(일회용 계정으로 쓰는 이유는, 본계정으로 이 얘기를 올렸더니 살해 협박 이메일이 오기 시작했거든요. 진짜, 좀 철들었으면 좋겠네요.)
글쎄요, 핵심은 이 말이 정확히 무슨 뜻이냐에 달려 있다고 봅니다.
그렇게 말씀하시는 걸 보면 본인조차 스스로를 그 이야기들의 작가로 여기지 않는다는 게 꽤 분명하니까요.
그러면서도 친구들에게는 마치 본인이 작가인 것처럼 보여줬죠. 결국 친구들은 속았다는 걸 알게 된 겁니다. 화가 나는 게 당연하지 않나요? 너무나 자연스러운 반응 같습니다.
물론 이야기를 지금 모양으로 다듬기까지 모델과 몇 시간씩 대화하고 직접 손도 좀 보는 식으로 상당한 노력을 들였다면, 한 번에 프롬프트 하나만 던졌을 때보다는 저작을 주장할 근거가 더 있을 수도 있습니다(말씀하신 걸 보면 거의 아무것도 안 하신 것 같지만요).
그 사람들이 당신을 북돋워 주려고 그랬을 거란 생각은 안 해보셨어요? 혹시나 하고요.
그리고 당신이 그걸 훔쳐서 자기 작품이라고 주장했다는 걸 알았을 때 감탄하지 않은 게 이상한가요?
세상에, 'AI 망상 증후군' 환자들(이 표현을 느슨하게 쓰는 겁니다)은 하나같이 뇌가 썩었네요.
이 부분은 강조해야 합니다.
결국 독창적인 콘텐츠라고 들었는데 알고 보니 도둑질 기계가 싸지른 배설물이었던 거고, 그래서 배신감과 역겨움을 느낀 겁니다. 덧붙이자면 그럴 만도 하고요.
나비에-스토크스를 예로 드는 건 그 논란을 생각하면 좋은 선택 같지 않네요.
글쎄요, LLM이 새로 증명한 것도 수두룩하고, 한때 창의성의 영역이라서 인간만의 것이라고 하던 일들 중에도 LLM과 다른 모델이 '창의적인' 인간을 능가한 게 많아서, 하나만 찾아봐도 인간이 지구에서 유일한 창조적 힘이 아니라는 걸 알게 됩니다.
나무만 보고 숲을 보지 못한다는 말이 여기 딱 들어맞네요.
제가 알기로 그 논란은 수학자 두 명이 LLM으로 그 문제를 풀었고 또 다른 그룹도 LLM으로 그 문제를 풀었다는 데서 불거진 겁니다. 풀이 자체를 두고 다투는 사람은 없는 것 같고요.
논란의 핵심은 OpenAI가 수학자들의 연구를 훔쳤을 수 있다는 거였어요. 제 생각엔 이상할 것도 없죠. 학습 데이터로 훔친 게 한두 개가 아니니까요.
맞아요, 근데 연구를 도둑맞았을지 모른다는 그 수학자들이 바로 LLM을 써서 그 문제에 도전하던 사람들이었잖아요.
LLM으로 생각을 안 하는 사람들은 LLM이 나오기 전에도 생각을 그리 많이 하지 않았을 겁니다.
정말 지겹도록 반복되는 헛소리이자, 생각을 멈추게 만드는 상투어입니다.
10년도 더 전에 AI가 스스로 학습해서 인간이 한 번도 두지 않은 수로 바둑에서 인간 선수들을 박살 냈던 거 기억하십니까. 저는 기억합니다.
또 그러시네요. 지금 논의 중인 사례와는 분명히 다른 예만 계속 드십니다. 여기서는 예술 작품 얘기인데요(사실 기사 속 상황은 더 한정적이어서, 지어낸 헛것이 아니라 실제로 존재하는 물리적 대상을 찍은 영상이어야 하니, 생성한 콘텐츠를 쓰면 안 되는 건 당연하죠).
진짜와 인공의 차이는 오차라고 부르는 것이고, 생성적 적대 신경망 같은 것은 바로 그 오차를 줄이려고 개발된 겁니다. 결국에는 현실을 흉내 내는 생성기가 나올 거예요.
손으로 하는 대회에서는 삽을 쓰면 반칙이고, 걷기 대회에서는 자동차를 쓰면 반칙입니다. 아주 간단한 개념이죠.
하지만 사진 대회는 '카메라로 사진을 찍어 오세요' 대회가 아닙니다. 후보정이 '사진'의 상당 부분을 좌우하는데, 이 보정에 대한 규칙은 다소 회색지대인 것 같습니다. 사진가로서 저는 상황이 이렇게까지 된 게 정말 싫지만, 평가 과정에서 제가 본 바를 지적하는 것뿐입니다.
당연히 맞죠! 카메라로 찍은 사진을 후보정하는 거잖아요. 사진가로서 페인트나 포토샵을 열어 아무것도 없는 데서 그림을 만들어 이 대회에 내면 반칙으로 취급받지 않을 수 있습니까?
그런 일이 벌어진 건 아닌 것 같아요. 후보정 단계에서 AI가 쓰인 것으로 보입니다.
중요한 디테일을 지어냈어요. AI든 아니든 그래서 실격된 겁니다.
반칙은 고차원적으로 창발하는 효과이지, 우주의 기본 규칙 같은 게 아닙니다. '반칙'이 충분히 흔해지면 그냥 참가 비용이 됩니다. 요즘 올림픽만 봐도 그래요. 여러 종목의 상당수 관계자가 대회 시점에는 적발하기 어렵거나 거의 불가능한 온갖 의심스러운 의료 시술을 받고 있습니다.
몇십 년 뒤에 맨몸 대회 참가자들을 엑스레이로 찍어서 로봇 보강 장치가 있는지 확인해야 하게 돼도 놀랍지 않을 겁니다.
다른 사람들에 대한 책임을 무시하면 뭐든 합리화할 수 있습니다. 결국 그건 형편없는 인간이 되는 길을 빙 돌아서 가는 것일 뿐입니다.
방금 답글을 단 댓글에 대한 메타 코멘트일 뿐입니다.
저는 테크브로 커뮤니티의 독선적인 오만에 계속 놀랍니다. 끔찍한 행동을 합리화하고 공유지의 비극을 부채질하는데, 그저 컴퓨터로 한다는 점만 다를 뿐이죠.
저는 향수에 젖을 만큼 나이가 들어서, 소프트웨어 업계가 더 작았고 괴짜들의 무대를 MBA 부류와 '일시적으로 곤궁한 예비 백만장자'들이 차지하지 않았던 시절을 자주 그리워합니다.
저도 3천 년 전에 거기 있었어요, 간달프... 사람들이 하는 말처럼요.
그리고 대체 무슨 소리를 하는지 모르겠네요. 그때도 업계는 오만에 찬 개자식들로 가득했어요. 아니면 게이츠가 그동안 달라졌다는 말씀인가요?
그건 그냥 향수일 뿐입니다. 좋았던 부분만 기억하고 나쁜 부분은 잊어버리는 거죠. 그때도 형편없는 구석이 있었어요.
기억해 둘 만한 건, 이곳이 여러 강점에도 불구하고 무엇보다 먼저 벤처캐피털 자금과 지원을 쫓는 사람들의 포럼이라는 점입니다. 이름과 별개로 그게 본질적인 매력이고, 그래서 다른 사이트나 더 전문적인 기술 커뮤니티보다 훨씬 크고 활발한 거죠. 제 경험상 더 작고, 그러니까... 실제 기술 지식에 대한 기준이 더 높은 곳들은 MBA 행세꾼이나 LessWrong/SlateStar/EA 같은 컬트에 훨씬 덜 관대한 편입니다.
저는 이 상황이 누가 삽질하는 걸 지켜보다가 내가 그 구덩이를 팠다고 우기는 것에 더 가깝다고 봐요.
인간의 몸, 특히 뇌는(더 넓게는 자연 자체도) 더 적은 에너지로 더 많은 일을 하려는 동기를 갖고 있습니다.
약물은 어려운 일을 견디게 해주거나 치러야 할 대가를 피하게 해줍니다.
마찬가지로 AI는 뇌가 더 적은 에너지로 더 많은 일을 하게 해줍니다. 그래서 그렇게 달콤해 보이고 중독성이 강한 겁니다.
뇌가 그렇게 힘들게 일하지 않아도 AI가 그걸 가능하게 해주지만, 이 행성에 공짜 점심은 없습니다. 어떤 일에 들인 노력은 품질과 세련됨으로 돌아오지만, 그만큼 피곤하기도 합니다.
중독은 무엇에 중독됐든 복잡하고 어려운 문제라서 가볍거나 쉽게 논할 사안은 아닙니다만.
맞는 말이지만 그게 다는 아닙니다. 사람들은 대부분의 상황에서 공을 들여 고품질의 결과물을 만들어도 눈에 띄지도 않고, 보상은 말할 것도 없다는 걸 금세 배웁니다.
사람이 하는 일 대부분이 뭐든 괜찮은 식입니다. 사회는 그저 임기응변으로 굴러가고, 테이프로 땜질한 해법이 넘쳐납니다. 대부분의 사람은 안목이나 품질을 알아보는 예리한 눈이 없어서, 뭔가 심각하게 잘못됐을 때나 알아챕니다. 그때조차 정치를 비롯한 온갖 다른 사정이 사람들의 반응을 왜곡합니다. 그래서 우리는 자기가 아는 분야에서는 AI 슬롭을 불평하지만, 일반 대중은 AI가 슬라이스 빵 이래 최고의 발명이라고 생각하는 겁니다.
이런 상황에 처하면, 정말로 자기 일에 열정이 있는 사람이 아닌 이상 결국 마음을 접고, 하는 일에서 얻을 수 있는 어떤(불확실하거나 정치적인) 보상이라도 받기 위해 최소한의 노력만 들일 방법을 찾게 됩니다.