요약
AI가 과학 문헌이라는 공유지를 사유 재산으로 바꾸는 새 인클로저가 될 수 있다는 논문입니다.
하버드-스미스소니언 천체물리학 센터의 천문학자 P. K. G. 윌리엄스가 쓴 14쪽짜리 글입니다. 17~18세기 영국에서 공유 목초지를 울타리로 막아 사유지로 만든 인클로저(공유지 사유화 운동)에 빗대어, 생성형 AI가 과학 문헌에 하는 일을 설명합니다.
왜 중요한가
- AI 논쟁의 초점을 기술 성능에서 누가 이익을 가져가느냐는 경제·정치·권력 문제로 옮기자고 제안합니다.
- 데이터 무단 사용을 넘어, 동료 심사처럼 공유지를 지탱하는 사람들의 일까지 무너질 수 있다고 경고합니다.
핵심 내용
- 영국 공유지는 남용으로 무너진 것이 아니라 부유한 지주들이 빼앗아 사라졌다고 봤습니다.
- 대규모 언어 모델(LLM)의 학습 데이터는 대부분 공개 자료인데, 이익은 AI 기업이 가져간다고 지적했습니다.
- 창작자가 받은 보상은 앤트로픽이 작가들과 맺은 약 15억 달러 합의가 사실상 전부라고 했습니다.
- AI가 대량으로 만든 저품질 글(슬롭)이 코드 리뷰와 학술 심사를 서비스 거부 공격처럼 마비시킨다고 봤습니다.
- 땅을 빼앗던 옛 인클로저와 방식은 달라도, 공동의 부를 사유화한다는 본질은 같다고 결론 내렸습니다.
HN 반응
- 연구 문헌 다수를 영리 출판사 5곳이 쥐고 있어 '누구의 것도 아니다'라는 전제가 약하다는 지적에, 소수 AI 기업 독점보다는 낫다는 반론이 나왔습니다.
- AI 투고가 쏟아져 학술지 심사가 마비될 것이라며 논문의 우려에 공감하는 댓글이 있었고, AI 덕분에 논문을 훨씬 많이 읽게 됐다는 경험담도 나왔습니다.
학술 문헌에는 비교적 일관성이 없다는 문제가 있습니다. 새 논문은 저마다 작은 진전을 하나씩 내놓을 뿐, 그것이 해당 분야의 기존 과학과 어떻게 맞물리는지, 얼마나 중요한지, 이전 결과와 얼마나 들어맞는지는 거의 알려 주지 않습니다. 나중에 나온 논문이 그 결과를 반박하거나 재현에 실패해도 그 논문은 문헌 속에 그대로 남아 있습니다. 발표된 결과들이 모여 더 체계적이고 완결된 권위 있는 교재로 자리 잡기까지는 오랜 시간이 걸립니다.
AI는 전체 문헌을 빠르게 흡수해서 일관된 하나의 전체로 내놓고, 그것으로 후속 연구와 진전을 뒷받침하겠다고 약속합니다. 서로 충돌하거나 모순되는 부분은 물론, 인용에는 드러나 있지 않은 다른 결과와의 새로운 연관성까지 곧바로 짚어 줄 수 있다면 특히 유용할 것입니다.
오픈소스에 대한 논의가 상당히 빈약했습니다. 저자는 오픈소스를 GPL 카피레프트로만 생각하는 것 같아요. 실제로 오픈소스의 대다수는 허용적 라이선스이고, 개발 자금도 영리 기업이 댔습니다. 우리의 정보 공유지가 어떻게 만들어졌는지 논할 때 꼭 따져 봐야 할 부분인데 말이죠.
글 끝부분에 이 글을 자기 이익과 변화에 대한 저항 이상의 이야기로 읽어 달라는 문단이 있긴 한데, 그 "이상"이 무엇인지는 글에서 맛보기조차 보여 주지 못한 느낌입니다.
저한테 가장 생각해 볼 만했던 부분은 AI 기업들이 쓸 수 있는 데이터를 거의 전부 학습에 써 놓고는 "독점 학습 데이터를 만드는 데 점점 더 많은 돈을 쓰고 있다"는 대목이었습니다. 일종의 직관적인 사회적 계약이 깨지는 느낌이에요. 다들 남의 지식을 가져다 썼으면, 너희 것도 내놓으라는 거죠.
3brown1blue의 Grant가 지난 몇 주 사이 AI 기업들이 내놓은 결과물을 놓고, 수학 분야 경력을 가능하게 하는 경제와 구조를 짚어 보는 영상을 올렸습니다. 전체적으로 훨씬 희망적이었고, 이 글처럼 인클로저 같은 맞지 않는 역사적 틀을 끼워 맞추느라 억지를 부릴 필요도 없었습니다. 한번 볼 만합니다: https://www.youtube.com/watch?v=LKrwhjOI8Nc
"누구의 소유도 아니며 모두가 함께 쓰는 무형의 자원"이라고 하셨는데... 이 "주인 없는" 무형의 자원을 남들과 나누려 하면 전 세계 경찰이 달려들어 괴롭히고, 심하면 감옥에 보낼 수도 있습니다(Anna's Archive를 보세요).
그러니 "누구의 소유도 아니다"라는 말이 꽤 무거운 짐을 지고 있는 셈이고, 그게 이 글 전체의 토대이기도 합니다.
뭐라 하셔도 좋은데, 수백만 과학자와 가끔 눈금이 어긋나기도 하는 제도들의 네트워크(출판사, 연구비 지원 기관, 대학 등)는... 앞으로 몇 년 안에 [과학?] 모든 분야에서 우위를 쥘지 모르는 기업 네 곳보다는 덜 소유된 것처럼 느껴져요...
발표된 연구 대부분은 영리 기업 5곳이 쥐고 있습니다.
학계 사람들에게만 "주인 없는 것"처럼 느껴지는 건, 소속 기관이 접근 비용을 대 주니까 가져다 쓸 수 있어서입니다. 일반 대중은 대부분 못 씁니다.
앞으로는 대학이 ChatGPT 같은 것에 돈을 내겠죠, 아마도. AI 기업들은 기꺼이 팔 겁니다. 여기에는 스스로 만든 문제 말고는 문제랄 게 없습니다(예를 들어 일부 연구자가 AI를 쓰기 싫어한다든가). 물론 안 쓸 자유야 있습니다. 컴퓨터를 안 쓸 자유가 있는 것과 마찬가지로요. 하지만 그러고 나서 일이 너무 오래 걸린다고 불평하지는 마세요.
그 5개 기업에게는 아킬레스건이 있습니다. 바로 심사자입니다. AI가 이끄는 과학의 미래가 현실이 되면, 주요 학술지의 심사자들은 쏟아지는 투고 무게를 못 이기고 무너질 겁니다. 그 결과는 서비스 거부 공격과 비슷하겠죠. AI가 만든 풀 리퀘스트가 넘쳐나는 시대에 오픈소스 프로젝트들이 겪은 일과 다르지 않을 겁니다.
학술지의 대안은 어디서나 arXiv 모델로 바꾸는 것일 수 있습니다. 최소한의 중재만 거치고 누구나 올릴 수 있게 하고, 논문에 버전을 명시하고, 동료 심사는 공개된 곳에서 이뤄지게 하는 거죠. 이미 수십 년 전부터 논문의 중요성은 이름난 학술지에 실렸는지가 아니라 인용 횟수로 가늠해 왔습니다.
그래도 글쓴이가 읽는 사람보다 압도적으로 많아지는 문제가 남을 것 같습니다. 그러면 이 프로젝트가 쓰기만 하고 아무도 읽지 않는 쓰레기장이 될 위험이 있어요. 그다음은 늘 있던 발견의 문제로 이어집니다. 전통적으로 과학자들은 평판을 1차 필터로 삼아 왔으니까요.
그런 환경에서는 평판을 어떻게 쌓습니까?
평판은 이미 특정 출판 시스템보다 인맥에 훨씬 더 좌우됩니다. 연구자는 좋은 연구를 내고, 그것을 직접 만나서나 인터넷에서 사람들에게 알림으로써 인정받습니다. 평판은 입소문으로 퍼집니다. 열린 출판 환경이 된다고 해서 이게 크게 달라질 것 같지는 않습니다.
입소문이랑, 퍼져 나가는 신뢰의 울타리 아닐까요?
사양하겠습니다. 제가 공짜로 동료 심사를 해 준 결과물이 폐쇄적인 AI 기업들 손에 넘어갈 거라면 전혀 하고 싶지 않아요. 그리고 Elsevier 얘기로 피상적인 댓글이 달리기 전에 말해 두자면, 저는 거기서도 심사하지 않고, 그건 분명히 다른 얘기입니다.
전통적인 동료 심사 모델을 기준으로 생각하고 계시네요. 제가 상상하는 건 좀 더 유기적인 과정으로, 논문이 중요하거나 유망하다고 여겨지는 만큼 검토를 받는 방식입니다. 예를 들면 arXiv에 올라온 그리고리 페렐만의 푸앵카레 추측 논문들이 동료들에게 검토받은 방식처럼요. 이 모델에는 심사자를 개별적으로 배정하는 일이 없고, 연구자들이 공개적으로 논의하고 협업하는 과정에서 자연스럽게 따라 나오는 부산물입니다.
그리고리 페렐만의 논문이 유망하게 여겨진 건 대체로 페렐만이 썼기 때문입니다. 읽어야 할 논문이 너무 많아지면 저자의 평판이 품질을 가늠하는 가장 중요한 신호가 됩니다. 공식 동료 심사는 관심을 좀 더 고르게 나누려는 시도지만, 규모가 커지면 잘 통하지 않습니다.
한편으로는 맞습니다. 페렐만은 자기 세부 분야에서 이미 알려진 사람이었으니까요. 다른 한편으로, 아무나 같은 논문을 냈더라도 묻혔을 거라는 건 믿기 어렵습니다. 제가 알기로 중요한 결과였고, 제목과 초록만 보고도 검토해 볼 가치가 있었을 테니까요.
적어도 수학에서는 앞으로 양이 문제가 되지 않을 겁니다. 모든 증명에 Lean 검증을 붙일 수 있으니까요. 다른 분야에서 자동 검증이나 품질 평가를 도입할 수 있을지는 그 분야의 세부 사정에 달렸겠죠.
유명한 문제일수록 평판이 더 중요해집니다. P 대 NP를 어느 쪽으로든 증명했다고 주장하는 논문은 차고 넘칩니다. 아무도 진지하게 받아들이지 않아요. 그런 결과를 발표하려는 사람은 괴짜라는 강한 선입견이 다들 있으니까요.
수학자들은 앞으로 순수 수학 연구를 하는 목적과 가치가 무엇인지 다시 생각해야 합니다. 지금까지는 인간 지식의 창출과 체계화를 가장 중시해 왔죠. 그 관점에서 보면 Lean 증명은 대체로 인간 지식에 대한 신뢰를 높여 줄 뿐, 지식에 직접 기여하지는 않습니다. 형식 증명에 사람이 쓴 증명에 없는 통찰이 담겨 있을 가능성은 낮으니까요.
저자는 천체물리학 분야 출신인데, 거기는 그렇지 않습니다. 주요 학술지는 학회나 공공 기관이 운영합니다(영국의 RAS, 미국의 AAS, 유럽의 ESO 등).
미국 공공 도서관은 대체로 누구나 접근할 수 있고(적어도 제가 살아 본 곳은 다 그랬습니다), 방문객으로 캠퍼스에 들어가 그곳 접근 권한을 쓸 수 있는 대학도 많습니다.
저는 지구상 컴퓨터의 90% 넘게를, 어쩌면 치매 걸린 나르시시스트의 변덕에 복종하고 법치에 맞서는 기업이 쥐고 있다는 게 더 걱정입니다.
이런 결론에 도달하려면 얼마나 억지를 부려야 하는지 상상하기 어렵습니다.
지금은 사실상 100년이 넘는 저작권 보호 기간에 대해서는 한마디도 없습니다. 가장 성공한 AI 모델 일부가 오픈소스라는 얘기도 한마디도 없고요.
저자가 말하는 공유지의 울타리 치기(enclosure)는 소스 코드가 공학이 아니라 예술로 분류되고, 로비 활동으로 저작권 기간이 늘어나던 때부터 계속 진행되어 왔습니다. 제 생각에 AI 기술은 그 울타리를 짓밟고 있고, 그래서 많은 사람이 화를 내는 겁니다.
(이 논문을 읽고도?) 이런 결론에 도달하려면 얼마나 억지를 부려야 하는지 상상하기 어렵습니다.
논문의 문장을 그대로 옮기면 이렇습니다. "20세기 동안 IP로 취급되는 인간 창작물의 범위가 극적으로 넓어졌으며, 이 현상은 '두 번째 인클로저 운동'이라 불려 왔다."
오픈 웨이트 모델은 오픈소스가 아닙니다. 오픈 웨이트 모델을 내놓는 기업들은 지금 자기 사업 이익에 맞아서 그렇게 하는 겁니다. 언제든 원하면, 혹은 정치적 압력을 받으면 접근을 끊을 수 있어요. 정말로 신경 쓴다면 학습 데이터와 절차를 공개하고 자기네 학습 인프라에 대한 접근을 민주화했을 겁니다.
맞습니다, 제가 잘못 봤네요. 논문은 IP를 인클로저의 한 사례로 다룰 뿐 아니라 FOSS(GPL)도 다루고 있군요.
그래도 저는 여전히 동의하지 않습니다만, 제가 더 중요하다고 생각하는 쟁점들을 저자가 겉핥기로나마 다루려 한 건 보이네요.
불평꾼들 때문에 마음가짐을 흐리지 마세요. 백서 같은 그럴듯한 과학의 외피를 두르고 통찰을 포장하는 사람들이라도 마찬가지입니다.
"지금까지의 모든 지식"(즉 LLM 학습에 필요한 데이터)은 그걸 전부 필요할 때 바로 토해낼 수 있게 만들었을 때 얻는 이득에 비하면 해변의 모래 한 알에 불과합니다.
우리는 과학, 지식, 예술의 하키 스틱 그래프 맨 아래에 있고, 그 위를 올려다보고 있습니다. 가파르게 솟는 구간에는 "미래"라는 이름이 붙어 있고요.
알지 못하기 때문에 무섭다는 데 동의합니다. 최첨단 AI 연구소들이 영향을 받는 공동체들과 전혀 제대로 협력하지 않았고, 노골적으로 착취한 경우도 많다는 것도 사실이고요.
하지만 모든 새 기술이 그렇듯 사람들이 그 기술로 상상도 못 할 창의적인 길을 찾아내고, 완전히 새로운 예술 형식을 열 거라는 데도 동의합니다.
알지 못해서 무서운 게 아닙니다. 터무니없이 부유한 사이코패스 몇몇이 그것을 독차지해서 스스로를 살아 있는 신으로 만들고, 인류의 99%를 쓸모없게 만들어 병들고 추운 길바닥에서 죽게 하려 하기 때문에 무서운 겁니다. 그게 그들의 공공연한 목표이고, 우리가 가진 역사와 현재 정치의 증거는 거의 다 그들이 이걸 대단히 성공적으로 해내리라는 쪽을 가리킵니다. 이 중 어떤 것도 당신을 위한 게 아닙니다. 전부 그들을 위한 겁니다. 전부요. 그래서 무서운 겁니다.
OAI가 수학 분야에 쏟아낸 결과물에 대한 첫 검토들이 나오고 있어요. 준 리만 가설 증명(Quasi-Riemann Hypothesis Proof)은 유효해 보입니다. 아이러니한 건 그 분야 연구자들이 대부분 무시해 온 접근법을 쓴다는 점입니다. 수학 문헌의 다른 부분도 캐내서 활용했고요. 거기에 진짜 "혁신"은 없습니다.
OAI가 진행 중인 작업을 이용한 잘못이 있다 해도, 다른 연구들에 대한 불만은 근거가 부실해 보입니다(아주 좋게 말해서 그렇습니다).
곧 엄청나게 많은 무언가가 만들어질 건 틀림없겠죠.
그게 인간의 필요를 채우는지, 풍요롭고 만족스러운 방식으로 채우는지는 또 다른 문제입니다.
"지금까지의 모든 지식"이라는 식의 말이 무슨 뜻인지는 이해하지만, 그런 말을 하는 사람 대부분은 사실 AI가 한 번도 기록된 적 없이 사람들 머릿속에만 있는 정보는 갖고 있지 않다는 걸 거의 모른다는 것도 보여 줍니다. 그런 정보에는 상당한 가치가 있는데, 일상적인 AI 활용으로는 거기에 닿을 수 없습니다.
효과는 두 가지입니다. 첫째는 "봉투 효과"로, 인류의 "지식 봉투" 안에 있는 모든 것이 "채우기" 더 쉬워집니다. 더 많은 사람이 알려진 것들 사이에서 더 많은 연결을 더 빨리 만들어 낼 수 있게 되죠. 분야를 넘나드는 통찰을 생각해 보세요.
둘째는 다른 효과인데, 개인이나 팀이 AI를 활용해 한 분야의 최전선으로 곧장 도약한 다음 거기서부터 바깥으로 나아가는 겁니다.
둘 다 지금 가능하고, 휴대폰만 있으면 누구나 쓸 수 있습니다.
저는 지난 10년보다 작년 한 해에 논문을 더 많이 읽었습니다. 아주 다양한 주제에 걸쳐서요. AI는 여전히 작동하려면 과학에 대한 공개 접근이 필요하지만, 그 공개 접근을 제가 실제로 쓸 수 있는 것으로 만들어 줬습니다. 이전의 어떤 기술도 이만큼 과학 공유지를 제게 열어 준 적이 없습니다.
앞으로 문을 걸어 잠그는 일이 생길까 하는 우려는 있을 수 있습니다. AI에게 문헌을 직접 "찾아보라"고 프롬프트로 시켜야 하고, 그러지 않으면 아예 생각하지 않은 채 대부분 아무 웹 페이지나 선호한다는 점이 아쉽긴 합니다. 하지만 적어도 지금은 과학이 그 어느 때보다 열려 있고 접근하기 쉽습니다.
논문을 더 많이 읽으신 겁니까, 아니면 중간 수준의 소비자 입맛에 맞추도록 RLHF를 거친, 중학교 2학년 수준으로 읽는 AI에게 역대 최다 논문을 요약시킨 겁니까?