요약
AI가 수학에 황금기를 열지 암흑기를 열지는 지금 연구자 사회가 내리는 선택에 달렸습니다.
텍사스대 수학자 프란체스코 마지가 테렌스 타오의 블로그에 기고한 글입니다. 대형 언어 모델(LLM)이 수학 결과를 쏟아내는 지금, 수학계가 무엇을 지키고 무엇을 준비해야 하는지 짚었습니다.
왜 중요한가
- 증명은 늘어나도 사람의 독자적인 이해가 약해지고 지식이 소수에게 몰리는 것을 암흑기로 규정했습니다.
- 최상위 모델을 가진 기업과 대학의 격차가 과학의 주도권을 기업 쪽으로 기울게 할 수 있다고 경고했습니다.
- 학생이 낸 좋은 결과가 더는 실력의 증거가 되지 못해 수학자 양성 방식부터 흔들린다고 봤습니다.
핵심 내용
- 대학과 학회, 연구 지원 기관이 함께 공공이 운영하는 경쟁력 있는 LLM 기반을 만들자고 제안했습니다.
- 오픈AI가 수학자들과 협력해 온 점은 인정하지만, 기업의 자발적 노력만으로는 부족하다고 했습니다.
- LLM은 Lean(증명을 기계로 검증하는 언어) 증명은 잘 쓰지만, 이를 사람 말로 옮긴 설명은 엉성하고 원본과 어긋날 때가 많다고 지적했습니다.
- 오픈AI가 문제 4,000개를 시도해 수백 개를 풀었다는 발표는 결과를 고른 과정이 모호하다고 봤습니다.
- 수학의 진보는 난제 목록을 지우는 일이 아니라 현상을 설명할 새 수학 언어를 만드는 일이라고 강조했습니다.
HN 반응
- AI가 답은 내지만 사람을 가르치지 못해 증명과 이해가 따로 놀게 됐다는 지적에, 수학자들이 이미 그 결과를 소화해 설명하고 있다는 반론이 맞섰습니다.
- 앤트로픽과 오픈AI가 자체 AI로 얻은 과학 지식을 특허나 영업 비밀로 독점할 수 있다는 우려가 나오면서 지식재산권 논쟁으로 번졌습니다.
테렌스 타오가 우선 수학자이고, 자기 '전문 분야' 안에 머무르려는 태도를 존중한다는 건 이해합니다(글을 직접 쓴 건 아니지만 자기 블로그에 올리긴 했죠). 그래도 이 질문을 수학에만 던질 게 아니라 과학 전체로 확장해서 생각해 보는 게 맞다고 봅니다. 과학 지식은 독점하거나 특허를 내는 데 쓸 수 있다는 점, 그리고 OpenAI와 앤트로픽, 어쩌면 다른 회사들도 AI 추론 엔진 접근권을 파는 것 말고 다른 수입원[1]을 노릴 거라는 증거가 충분하다는 점을 염두에 두십시오.
저는 이 회사들이 새로운 자이바쓰[2]가 되는 미래를 상상할 수 있습니다. 매우 다양한 분야에 걸쳐 특허를 쥐고, 사내 AI가 만들어 낸 독점 기술의 사일로가 서로를 강화하는 겁니다. 그 AI는 나머지 세상이 비용을 댔는데도 정작 접근할 수는 없는 AI이고요.
[1] 예를 들면: https://www.reuters.com/world/anthropic-quietly-sets-up-biology-lab-it-ramps-ai-drug-program-2026-09-18/
[2] https://en.wikipedia.org/wiki/Zaibatsu
지적재산권법은 애초에 저한테는 온전히 말이 된 적이 없는데, AI 시대에는 더 말이 안 되네요.
기계가 지식을 만들어 내는 마당에, 대체 누구의 "지적재산"을 보호하겠다는 건가요?
너무 늦어서 의미가 없어지기 전에 제도를 손볼 수 있으면 좋겠습니다.
특허법은 영업비밀로 숨기는 일을 막으려는 장치입니다.
실제 지식을 공개하는 대가로 국가의 보호를 받고, 일정 기간 동안은 그 지식으로 돈을 버는 게 오직 특허권자에게만 허용됩니다.
그 기간이 너무 길다는 데는 이견이 있을 수 있지만, 개념 자체는 말이 됩니다.
대안은 정말로 영업비밀입니다. 영업비밀은 다른 사람이 그 비밀을 알아내도 국가의 보호를 받지 못합니다(그래도 비밀을 훔치는 건 안 되지만요).
AI 기업들이 지식을 독점하려 한다면 특허가 아니라 영업비밀로도 얼마든지 할 수 있습니다.
지적재산권법은 대부분의 법이 그렇듯 돈 많은 쪽에 유리하고, 그래서 예컨대 예술가, 소비자와 레이블·음반사 사이에 이런 비대칭이 생기는 겁니다. 후자는 돈이 훨씬 많은 데다 사실상 불멸이라 노력을 최적화할 수도 있습니다.
AI와 AI 기업에도 비슷한 길이 열려 있습니다. 이미 세상에 나와 있는 정보를 잔뜩 가져다가(대부분 대가도 치르지 않고 얻은 것이죠) 그 정보를 바탕으로 한 종합물을 문지기처럼 틀어쥐고, 그 밑에 깔린 잠재 지식까지 전부 수확하려 들 겁니다. 제 생각에는 나쁜 흐름인데, 주주들은 분명 대단하다고 믿겠죠.
맞는 말입니다. 어쩌면 AI 덕분에, 강력한 지재권법은 애초에 굶주리는 음악가나 촛불 아래서 수상작 소설을 쓴 영웅적인 작가를 위한 게 아니었다는 점이 분명해질지도 모릅니다. 그건 자기 재산을 영원히 지키려고 가진 힘을 다 쓰는 거대 자산 집단을 위한 겁니다.
시작은 그랬을지 몰라도, 지금 쓰이는 방식은 분명 그렇지 않습니다.
그건 전혀 사실이 아니고, 예술가에 대해 아무것도 모르는 사람들의 의견일 뿐입니다.
공연을 기획하고 두둑한 수수료를 떼는 음악 에이전시를 두고도 똑같은 잘못된 정보가 돕니다.
하지만 음악가들은 그런 에이전시를 환영했습니다. 18세기 초에는 음악가가 새 도시로 갈 때 홍보를 직접 해야 했습니다. 임프레사리오(말 그대로 먼저 가서 준비하는 사람)를 두어 기획을 맡긴 게 혁신이었죠.
음악가들이 원하지 않는 건 자기들 편인 척하면서 더 높은 몫을 떼어 가는 인터넷 중간상입니다.
확신은 대단하신데 근거는 하나도 내놓지 않으셨네요. 반대되는 근거는 여기 있습니다: https://news.ycombinator.com/item?id=15305476
지적재산권의 목적은 발명가가 자기 작업으로 돈을 벌 수 있게 해서 새로운 지식(과 예술)을 만들도록 유인하는 겁니다. 이게 특별히 잘 작동하지 않는다는 주장도 있지만, 그 논리를 받아들인다면 AI에도 꽤 깔끔하게 적용되는 듯합니다. 자기가 잘 아는 문제에 AI를 돌리고, 자기만 쓸 땜질식 해법이 아니라 모두를 위한 해법을 공개하는 수고를 하도록 사람들에게 유인을 주는 거니까요.
특정 발명을 AI 모델이 아주 쉽게 발견할 수 있게 된다면, 즉 발견이 시간문제가 된다면, 그런 분야는 땅따먹기 게임이 됩니다.
맞습니다. 하지만 그건 기존 선례로 충분히 다룰 수 있을 법합니다. 발견이 "해당 기술 분야의 통상의 기술자에게 자명한" 것이면 특허를 받을 수 없으니까요. 저는 법률가는 아니지만, 이걸 "5분짜리 프롬프트 두 번이면 되는 일은 특허를 낼 수 없다"로 확장하는 건 어렵지 않아 보입니다.
별개로, 땅따먹기가 경제적으로 꼭 나쁜 것만은 아닙니다. 차지한 땅은 빠르게 생산에 쓰이게 되고, 차지한 쪽이 거기서 나오는 가치를 전부 가져가지도 못합니다. 특허처럼 독점이 한시적이라면 더더욱 그렇죠.
생성된 콘텐츠는 저작권 대상이 아니라고 이미 결정이 났습니다.
네, 그런데 지금은 특허 얘기를 하고 있었잖아요.
"지식(과 예술)"이라고 하셨죠... LLM이 만든 걸로 승인된 특허 사례가 있나요?
저작권을 무시하기로 유명한 중국산 오픈소스 모델들이 있으니 다행이네요...
OpenAI와 앤트로픽은 안 그렇고요?…
생물테러 같은 이유를 들어 다른 곳이 이런 용도로 AI를 쓰지 못하도록 로비하는 건, 경쟁을 막는 데 아주 훌륭한 수입니다.
요즘 테렌스 타오의 발언을 보면, 전문 수학자들이 가장 못마땅해하는 건 AI가 제출한 수학 논문에는 질 좋은 인간 수학 논문이 갖춘 폭넓은 가르침의 내용이 없다는 점 같습니다. 답은 맞을지 몰라도 AI의 수학 논문은 인간 저자처럼 독자를 가르치지 않습니다. 전문 수학은 문제를 푸는 일만이 아니라, 지식을 퍼뜨려서 다른 사람들이 논문을 쓴 저자(그리고 결과를 얻은 사람)와 같은 이해를 자기 두뇌에 심을 수 있게 하는 일이기도 하니까요.
다시 말해 제가 읽기로 수학의 위기는 AI가 가르치지 않고 풀어낼 수 있다는 점입니다. 결과는 인상적일지 몰라도, 앞으로 수학을 앞으로 밀고 나갈 수 있는 존재가 어떤 인간도 끈기 있게 해내지 못할 수십억 가지 시나리오를 묵묵히 돌려 대는 기계뿐이라면, 이 분야의 종사자들은 자기 자리가 어디인지 고민할 수밖에 없습니다.
수학자는 새로운 결과를 발견하는 과정에서 저절로 전문가가 되고, 그다음에는 다니면서 다른 수학자들에게 자기 결과와 방법, 직관을 설명하는 강연을 합니다. 그러다 보면 그 사고의 틀 일부가 다른 분야로 서서히 스며들기도 하고요.
OpenAI에서는 300건이 넘는 결과 중 어느 하나에 대해서도 강연을 해 주겠다는 사람이 없습니다.
논리적으로 증명 가능한 수학 명제의 풍경은 고정되어 있습니다. 보통은 그 풍경을 탐험하는 과정이 동시에 인간의 이해도 높여 줍니다. 이제는 형식 증명과 실제 지식이 서로 분리되어 버렸습니다.
그러니까 AI가 이미 알아서 수학계에서 스스로를 따돌리고 있다는 거네요.
아니요, 수학계가 세상으로부터 스스로를 닫아걸고 있는 겁니다.
AI를 무시할 수는 있어도 AI가 당신을 무시해 주는 건 아닙니다. 어느 순간 아미시 같은 작은 고립 사회가 되고, 다른 모두는 당신들을 예스럽고 시대에 뒤처진 사람들로 보게 됩니다.
저라면 예스럽고 뒤처진 쪽도 대환영인데, 지금 일어나는 일은 그런 게 아니잖아요.
문제는 AI가 너무 똑똑해서 복잡한 주제를 인간에게 설명하지 못한다는 겁니다. AI는 인간이 도저히 따라갈 수 없는 엄청난 컨텍스트 윈도우를 가지고 있어요. AI 연구소들이 그 간극을 메우는 작업을 해야 하겠지만, 지금 시점에서 그들을 탓할 수는 없습니다.
AI 낙관론자들: AI는 모든 면에서 갈수록 나아지고 있으니 그 폭넓은 능력을 "지능"이라고 부를 수 있다.
역시 AI 낙관론자들: 이 존재들은 너무 지능이 높아서 자기가 하는 일을 사람들에게 설명하지 못한다...
그러니까 제 말은, 테리 타오는 예전 OpenAI 결과 중 하나를 설명하는 데 실제로 ChatGPT를 썼다는 겁니다. AI와 함께 일하는 인간은 이런 내용을 설명할 수 있어요. 다른 건 몰라도 OpenAI는 인간 수학자들에게 결과를 설명받을 수 있는 속도에 맞춰 내놓을 수도 있을 겁니다. 그러니 "그래요, 탓할 수 있습니다." 그들이 다르게 행동하리라고 기대하진 않지만, 탓할 수는 분명히 있죠.
증명을 이해할 배경지식을 갖춘 사람이 AI에게서 만족스러운 설명을 끌어낼 수 있다면, OpenAI가 설명을 따로 공개하거나 사람이 설명할 수 있는 속도에 맞춰 결과를 내놓을 필요는 없습니다. 그냥 물어보면 되는 대화형 해설자가 있으니까요!
물론 이렇게 압축된 이해의 일부를 글로 남겨 두는 건 여전히 쓸모가 있습니다. 제가 회사에서 코드의 상위 수준 설명을 AI에게 만들게 해 둬서 매번 모든 걸 다시 파악하지 않아도 되게 한 것과 같은 이치인데, 그건 캐시나 최적화에 가깝습니다.
전형적인 이모 틸리 같은 일반인 눈에는 프로그래머가 이미 변덕스러운 컴퓨터 정령의 알 수 없는 결정을 합리화하고 전달하려 애쓰는 일종의 사제처럼 보였을지도 모릅니다... 하지만 이 일이 내부에서 봐도 그런 모습이 되기 시작하지 않기를 정말로 바랍니다.
문명 차원에서 일종의... 인식론적 퇴보가 될 테니까요.
제발요, 그건 헛소리입니다. 인간은 수천 년 동안 지적 추론의 최전선에 있었습니다. AI가 낸 결과 몇십 개로 그게 바뀌지는 않습니다.
실제로 지금 이 순간에도 수학자들이 시간과 노력을 들여 그 결과들을 소화하고 설명해 내고 있습니다(성공적으로요).
지구에는 언제나 가장 똑똑한 생물이 있었고, 가장 똑똑한 종은 수천 번 바뀌었습니다. 인간에게 추월당하지 않게 지켜 줄 특별한 무언가가 있는 것도 아니고요.
제 말을 이해 못 하셨네요. 제가 하는 말은 현재 AI의 "두뇌"가 다르게 작동하기 때문에 설명을 잘하지 못한다는 겁니다. 지능은 같은데 작업 기억이 10배 큰 사람이 당신에게 뭔가를 설명한다고 상상해 보세요. 그 사람은 당신의 작업 기억을 넘치게 하려 들 겁니다. 반면 더 잘 맞는 선생이라면 인간이 소화할 수 있는 조각으로 잘게 나누겠죠.
분명히 해 두자면, 이 글은 프란체스코 마지(Francesco Maggi) < https://web.ma.utexas.edu/users/maggi/ >가 썼고, AI는 사라지지 않을 것이며 독립적이고 접근 가능한 인프라야말로 AI가 "잘 풀리도록" 돕는 데 가장 도움이 될 가능성이 높다는 이유로, 과학과 수학을 위한 LLM 인프라에 제도적으로 투자하자는 주장이 주된 내용인 것 같습니다.