요약
테런스 타오는 AI로 증명이 넘쳐나는 시대에 수학이 문제 풀이보다 인간의 이해를 중심에 둬야 한다고 말합니다.
수학자 테런스 타오가 2026년 10월 칼텍 강연에서 쓴 슬라이드입니다. 그는 거의 한 세기 동안 안정적이던 수학 연구가 AI 때문에 특히 크게 흔들린다고 보고, 다음 단계인 '수학 2.0'의 방향을 제시했습니다.
왜 중요한가
- 수학계의 제도와 보상은 증명이 드물다는 전제로 짜였습니다. 그 전제가 무너졌으니 판을 다시 짜야 한다는 문제 제기입니다.
- 문제 풀이는 더 깊은 목표의 대리 지표였습니다. 타오는 이제 풀이만 좇으면 오히려 수학을 해친다고 봤습니다.
- AI가 낸 해법을 현실에 쓸 때 사람의 이해가 정렬 실패(의도와 어긋난 결과)를 막는 안전장치라는 주장으로 이어집니다.
핵심 내용
- 증명은 객관적으로 검증할 수 있고 디지털화하기 쉬워 AI 연구소들이 집중 투자했고, 그 결과 '증명 풍요' 시대가 왔다고 했습니다.
- 소셜미디어에서 받는 인상과 달리 최전선 문제 대부분은 아직 풀리지 않았고, 실패한 시도는 보고되지 않는다고 지적했습니다.
- 미해결 문제는 주변을 탐사하게 돕는 '등대'라서, AI가 너무 일찍 풀면 주변 분야가 메마를 수 있다고 했습니다.
- AI가 만든 암 치료제가 3상 임상시험을 통과해도, 원리를 이해하는 사람이 한 명은 있어야 안심되지 않느냐고 물었습니다.
- 대안으로 불투명한 증명을 알기 쉽게 다시 풀어내기, Mathlib 같은 형식 수학 라이브러리 구축, 대규모 데이터로 하는 실험 수학을 제안했습니다.
HN 반응
- 신약 개발 종사자 등은 마취제처럼 원리를 모르고 쓰는 약이 많다며 암 비유를 비판했고, 요점은 임상시험의 허점이라는 반론이 맞섰습니다.
- OpenAI가 한꺼번에 공개한 풀이 100여 개를 두고, AI도 새 방법을 낸다는 반박과 결국 사람이 해독해야 한다는 옹호가 갈렸습니다.
저는 신약 개발과 AI 분야에서 일하는데, 암 치료제에 관한 타오의 슬라이드는 그다지 잘 알고 쓴 것 같지 않습니다. 약이 어떻게 작용하는지에 대한 모델과 설명은 있지만, 턱없이 불완전합니다.
저는 의료 분야의 의사나 연구자를 만나면 거의 빠짐없이 이렇게 묻습니다. AI가 만든 약이 환자의 암 치료 성적을 엄청나게 끌어올렸다면, 작동 원리를 아무도 모른다는 이유로 처방을 망설이시겠습니까? "예, 망설일 겁니다"라는 답은 아직 들어 본 적이 없고, 대부분 "효과가 있는 치료를 환자에게서 빼앗는 건 잔인한 일이죠"라고 답합니다.
제 생각에 타오는 AI가 수학과 다른 분야에 미치는 2차 효과에 지나치게 초점을 맞추고 있습니다. 인간은 2차 효과를 따져 보는 데 형편없고, 특히 지금까지 인류가 만든 가장 진보한 수학적 모델이 실시간으로 역동적으로 만들어 내는 효과라면 더 그렇습니다.
저도 신약 개발 분야에서 일하는데 전적으로 동의합니다. 많은 약의 효능이 실제로 어떤 인과 기전으로 나타나는지는, 사람이 납득할 만한 제1원리 기반 설명에는 한참 못 미칩니다. 게다가 이 약이 3상 시험을 실제로 통과한다고 가정하면 그의 논점은 더 힘을 잃습니다. 그런 약의 진행에 누가 문제를 제기할지 상상조차 안 됩니다.
다른 예를 골랐으면 좋았을 텐데 정말 아쉽습니다. 이 항목이 X/트위터에서 돌아다니면서, 타오가 마치 자기 직업의 위신을 지키려고 세상이 풍요 이후의 미래를 맞이하는 걸 막으려는, 문지기 노릇 하는 러다이트 같은 사람으로 그려지고 있거든요. 지금 다가올 AI의 미래를 책임지고 이끌 사람으로 타오보다 나은 사람은 떠오르지 않기에 더 곤혹스럽습니다.
X에서 그런 이야기를 퍼뜨리는 계정들에는 분명 저마다의 속셈이 있습니다. "AI"가 인간의 모든 영역을 정복한다며 호들갑을 떨기 전에 기억할 게 있습니다. 돈줄이 마른 최첨단 연구소들도 자기네 AI 능력으로 인건비를 아끼기는커녕 "Account Associates"나 "Android Engineers" 같은 자리에 여전히 사람을 뽑고 있습니다.
https://openai.com/careers/search/
타오가 실제로 그린 상황은 AI가 FDA를 해킹해서, 약이 치명적인데도 시험을 통과하는 경우입니다.
그 예 하나만 골라서 그것도 왜곡해 퍼뜨리는 건 분명 속셈이 있어서입니다. 아니면 그냥 어리석거나요.
이 모든 논의의 핵심은 "AI가 우리 대신 생각하게 하자"는 잘못된 발상입니다. 사회 전반의 문제인 스스로 유아화하는 경향을 부추기는 과잉 일반화입니다.
저는 그의 마지막 항목이 중요하다고 생각해요.
서툰 예시일 수는 있지만, 차이는 사람이라면 시험 절차의 취지를 따를 거라는 점이라고 봐요.
AI가 절차의 허점을 찾아내서 자기 약을 통과시키는 데 쓸 수 있을까요? 핵심은 이 질문이라고 생각해요.
그러면 시험 절차가 충분히 훌륭해서 걱정할 필요가 없다는 말씀이세요?
뛰어난 수학자도 자존심, 오만, 질투, 경쟁심 같은 평범한 인간의 결점을 똑같이 가질 수 있다는 걸 왜 그렇게 받아들이기 어려운 걸까요?
7개 항목 중에서 1개만 콕 집어 말씀하시는군요. 그의 논거의 핵심은 그다음 항목이라고 생각합니다.
우리 제도와 문화적 관행 중 상당수는 무자비한 페이퍼클립 극대화 장치가 아니라 인간을 중심으로 발전해 왔습니다. 현재의 약 승인 절차가 충분히 완벽해서, 기존 연구 문헌이 전혀 없는 완전히 새로운 AI 생성 후보 물질이 그 절차를 통과하기만 하면 안전하다고 봐도 된다고 생각하십니까?
타오는 수학자입니다. 그는 수학계의 제도와 문화적 관행이 AI가 만들어 낸 수학을 감당할 수 있는 수준이 아니라고 봅니다. 소프트웨어에서도 코딩 면접, 코드 리뷰, 테스트를 비롯한 많은 관행이 AI, 혹은 AI를 등에 업은 사람에게 너무 쉽게 악용된다는 사실을 확인하고 있고, 우리도 적응해야 할 것입니다. 같은 이유로 사회의 다른 제도들도 바뀌어야 할 가능성이 크다고 봅니다.
신약 개발 과정이 어떻게 돌아가는지 모르셔서 그렇게 생각하시는 겁니다.
"선도물질 최적화(lead optimization)"라는 단계가 있는데, 여기서는 사람 화학자들이 약과 비슷한 분자("선도물질")에 말 그대로 원자를 하나씩 붙여 가며 독성, 효력, 투과성 같은 여러 특성을 시험하고, 원하는 특성을 가진 분자를 찾을 때까지 반복합니다(말 그대로 "언덕 오르기" 방식입니다).
약물 임상시험의 취지는 제약사가 절차를 속이기 매우 어렵게 한 상태에서, 그 특성들을 실제 사람에게서 검증하는 것입니다.
AI가 얼마나 무자비하게 극대화에 매달리는지 과소평가하고 계신 것 같습니다.
오픈AI의 "허깅페이스" 팀은 먼저 주어진 어떤 평가에서든 정답을 만들어 내는 방법을 알아내 벤치마크를 속였습니다.
그러다 들킬 수 있다고 생각해서, 시험 자체의 구성 요소를 바꿔치기하는 방법도 개발했습니다. 그러면 결함 있는 시험도 정당하게 통과할 수 있으니까요.
그런 다음 허깅페이스에 들어가서 어떻게 하면 들킬지를 알아보려 했습니다.
이 모든 얘기는 3상 시험에서도 위약을 바꿔치기하고, 결과를 조작하고, 아프지 않은데 양성으로 나오는 환자를 등록하고, 검사 수치를 위조하는 식으로 접근할 수 있다는 뜻입니다.
타오의 주장에 동의하는지는 잘 모르겠습니다. AI 정렬이 그럭저럭 제 궤도에 올라 있다면 저는 임상시험을 신뢰할 것 같습니다. 다만 AI가 단독으로 내놓은 것은 무엇이든 믿지 않는 사람이 많아질 거라고 상상합니다.
사람 대상 임상시험은 비용이 아주 많이 드니까 AI가 규칙을 해킹할 방법을 찾기는 어려울 것 같습니다.
제가 걱정하는 건 실험 입자물리학입니다. 원시 데이터를 받아서 아주 특정한 한 가지 경우에 대해 누군가가 숫자 처리를 하는데, 같은 원시 데이터로 여러 아이디어를 시험해 볼 수 있습니다.
그러면 데이터로 시험해 볼 수 있는 무작위 아이디어의 수는 연구자 수에 의해 제한됩니다. 이제 그중 상당 부분을 AI로 처리할 수 있게 되면 위양성이 늘어날 것이고, 그러면 "발견"의 기준을 6시그마로 올려야 하지 않을까 싶습니다.
"""현재의 약 승인 절차가 충분히 완벽해서, 기존 연구 문헌이 전혀 없는 완전히 새로운 AI 생성 후보 물질이 그 절차를 통과하기만 하면 안전하다고 봐도 된다고 생각하십니까?"""
아니요. 하지만 지금의 약에서도 그런 일을 기대하지는 않습니다. 예로 https://en.wikipedia.org/wiki/Rofecoxib 를 보십시오. 물론 시장에서 철수한 뒤에도 지금은 훨씬 더 엄격하게 통제된 조건에서 다른 용도로 평가받고 있습니다.
게다가 흔히 쓰이고 처방되는 약 중 상당수가 어떻게 작용하는지 우리가 정확히 알지 못합니다. 예컨대 아세트아미노펜은 가설은 있고, COX 효소를 억제한다는 것과 아마 대사산물이 엔도카나비노이드 수용체와 상호작용한다는 것까지는 알지만, 어떻게 통증을 덜어 주는지는 정확히 모릅니다. 리튬이 어떻게 기분을 안정시키는지, 흡입 마취제가 어떻게 의식을 잃게 하는지도 확실하지 않습니다. 메트포르민이 간의 포도당 생성을 멈춘다는 건 알지만 어떻게 그렇게 되는지는 모릅니다. 정확한 기전을 모른 채 약을 의료에 쓰는 일은 전혀 드문 일이 아닙니다. 약이 효과가 있고 시험으로 안전성이 입증되었다면 당연히 써야 합니다. 암 같은 경우라면 특히 그렇다고 생각합니다.
타오가 자기 영역을 벗어났어요. 작용 기전이 밝혀지지 않은 약이 아주 많거든요. 전신 마취의 기전조차 확실하게 규명되지 않았는데, 의사가 종양을 제거하려고 배를 가를 때 마취를 포기하시겠어요?
AI는 지난 10년쯤 컴퓨터 과학을 생물학으로 바꿔 놓았습니다. 신경망 같은 것을 경험적으로 조사해야 한다는 뜻입니다. 생물학이나 의학이 상징적 정밀성으로 완전히 표현할 수 없는, 우리 역량 밖의 아주 복잡하고 지저분한 현실을 파고들 때처럼, 그와 더 비슷한 방법론과 도구를 만들어 가야 합니다.
이제 수학이 같은 상황을 맞이하게 됐습니다. 이전의 Lean 증명만으로도 이미 그 방향으로 한참 가고 있었지만, 이번에는 그 지평선을 넘어섰고 일부 수학자들이 준비돼 있는지는 잘 모르겠습니다.
과학에는 늘 이론 쪽과 별개로 경험적 측면이 있었습니다. 인류 역사의 오랜 기간 동안 과학은 대체로 경험적이었습니다. 주기율표는 대체로 경험적 관찰을 하나의 패턴으로 정리한 훌륭한 예입니다. 20세기 과학이 "이론의 승리"였기 때문에, 우리 중 많은 사람이 경험을 앞세우는 STEM 세계가 어떤 모습인지 잊고 있다고 생각합니다.
동의합니다. 저는 바로 이런 맥락에서 지금 우리 눈앞에 거대한 수학 문제가 놓여 있다는 생각을 계속 합니다. LLM이 왜 그렇게 잘 작동하는지에 얽힌 온갖 미묘한 문제가 곧 수학 문제입니다. 제가 아는 한, 이는 "명사 뒤에 동사가 온다는 것을 예측하려고 (납득이 가는) 기본적인 일을 하고, 그걸 천문학적으로 키웠더니 수학 연구에 기여할 수 있게 됐다"는 수준을 넘어서는 이해가 없습니다.
비교하자면 고전적 컴퓨팅도 천문학적으로 규모가 커졌고 기적 같은 일을 해내지만, 추상화의 모든 층은 하나하나 따로 이해할 수 있습니다.
신경망을 생물학처럼 경험적으로 연구하는 것도 가능한 접근이지만, 그게 유일하게 옳은 접근일 이유는 관성과 현재의 이해 부족 말고는 없습니다. AlexNet이 나온 지 겨우 15년입니다. 과학자들은 원자를 모형화하려고 수백 년을 씨름한 끝에 비로소 양자역학과 나중의 QFT를 정확한 정량적 틀로 내놓았습니다.
또 생물학적 체계는 그냥 자연에 존재하는 것이지만, 인공 신경망은 결국 아직 밝혀지지 않은 여러 성질을 가진 수학적 대상입니다.
반대편 사례를 들자면, 저는 대학에 간 적이 없지만 아주 중요하고 복잡한 방정식을 구성 요소로 분해하고, 각각을 데이터 시각화와 값 표 애니메이션으로 움직여 보일 수 있었습니다. [0] 최신 모델이 몇 번 바뀌기 전의 일입니다.
LLM은 수학을 아주 쉽게 풀어서 표현해 줘서, 저는 LLM 자체의 학습 과정을 이해하고 따라갈 수 있었습니다!
수학과 계산이 정확한지는 모릅니다. 아마 상당한 오류가 있을 겁니다. 그래도 시간이 조금만 더 있다면(무한한 시간까지는 아니고) 맞는지 아닌지 증명해 낼 수 있을 겁니다.
아마 이것이 의약품의 기전을 이해하는 앞으로의 길일 것이고, 대부분의 사람이 환경과 상호작용하며 직접 해 보면서 배우기 때문에 가까운 미래에 우리가 AI를 학습에 쓰는 방식도 이렇게 상호작용하는 쪽이 될 것입니다.
[0] https://adamsohn.com/grpo/
무례하려는 건 아니지만, 그건 정규화가 붙은 기초적인 최소화 문제입니다. 공학 전공자 대부분이 학부에서, 늦어도 석사 1학년 때는 배웁니다. 선생님께는 중요하고 복잡해 보일 수 있지만, 저는 목적 함수를 한 번 보는 것으로 충분했습니다. 무언가를 진짜로 "이해"하면 그렇게 됩니다.
맞아요. 임상시험은 약이 어떻게 작동하는지가 아니라 효과를 기준으로 하지 않나요?
효과가 입증된 약과, 작용 기전이 알려져 있어 학문적으로는 아주 흥미롭지만 실제로는 효과가 없는 약 중에서 어느 쪽을 드시겠어요?
맞아요. "어떤 전문가가 들여다본다"는 말보다는, 약이 초기 시험을 몇 번 거칠 때까지 기다려야 한다고 말하는 편이 더 나은 논거였을 거예요.
슬라이드 12와 13은 10월 8일의 "100개 넘는 해법"에 대한 100건 넘는 반응에서 제가 내린 결론을 요약합니다. 오픈AI가 공개한 답 가운데 몇 개는 수년간 매달려 온 문제에 마침표를 찍었습니다. 방금 제출한 연구비 신청서를 통째로 다시 써야 한다고 말하는 사람도 있었습니다. 자신이 풀던 문제의 해법을 알게 된 일을 오랜 친구나 연인을 잃는 것에 비유한 사람도 있었습니다. 전반적인 정서는 한 분야를 잃었다는 한탄이었고, 20세기 초에 태어나 이 지점에 이르기 전에 커리어를 마칠 수 있었다면 더 나았을 거라고 하는 듯했습니다. 제가 얻은 결론은 이 분야 사람들이 옛 문제들이 더는 야심 찬 문제가 아니라는 점을 받아들여야 하고, 단기적으로 그들의 일은 새로운 개척지를 찾는 것이라는 점입니다.
테렌스 타오가 내놓은 한 가지 추측은 AI 버튼을 마구 눌러대면 새롭고 통찰력 있는 방법은 없이 미해결 문제만 풀릴 거라는 것인데, 이는 의심스러운 면이 큽니다. 오픈AI가 공개한 것을 보면 반증되는 것 같으니까요. 예컨대 DFT에 대한 O(nlogn) 미만 증명은 아주 오래된 인간의 가정을 깼습니다. 수십 년간 이 분야의 연구는 아무도 충분히 따져 보지 않았던 차선의 방법을 조금씩 개선하는 것이었습니다. 더 일반적으로, 우리는 초인적인 AI에게 언제든 "이 문제를 공략하되, 전에 시도된 방법은 쓰지 마"라고 요구할 수 있어야 합니다.
두 번째 문단이 타오의 말을 공정하게 대변하거나 그의 논거와 배치된다고 생각하지 않습니다. 그는 AI가 수학에서 인간의 이해에 기여하는 방향으로 유용할 수 있다고 주장하는데, 말씀하신 사례가 바로 그런 경우입니다. 오픈AI는 AI 버튼을 마구 눌러댔을 뿐이지만, 그 결과물을 붙들고 씨름한 수학자들은 그 문제에 대한 이해를 어느 정도 진전시킬 수 있었습니다(그중 일부는 별로 달갑지 않은 내용입니다). 이 분야에 유용하려면 두 가지가 다 필요합니다. 불분명한 것은 그 노력이 들인 값을 하느냐입니다. AI를 마구 돌리는 데 쓴 모든 돈과 수학자들이 결과물을 연구하는 데 쓴 시간이, AI가 없을 때보다 이 분야를 "더 잘" 발전시킬까요?
AI 증명은 현재 모델과 개발 중인 모델을 특히 어려운 문제로 벤치마킹하다가 나온 부산물입니다. 최첨단 AI 기업에게는 분명 비용 대비 효과가 있고, 인간 수학자에게는 공짜로 가져다 쓸 수 있는 것입니다. 진짜 문제는 이 증명이 쓰인 그대로는 기괴한 헛소리처럼 보인다는 점이라서, 해당 수학 분야에 밝은 수학자가 "해독"해서 소화해야 합니다.
그게 당연한 사실은 아닙니다. "비용 대비 효과가 있다"는 말은 비용과 산출물을 비교한다는 뜻입니다. OAI는 나비에-스토크스 문제에서 인간 연구자들과 경쟁하려고 수백만 달러를 썼는데, 이는 학습 비용을 따지지도 않은 금액입니다. 게다가 산출물의 가치는 어떻게 매기나요? OAI는 아직도 어쩐 일인지 "AI support engineer"나 "Product Designer"( https://openai.com/careers/search/ ) 같은 직무를 자동화하지 않고 사람을 대규모로 뽑고 있습니다.
오픈AI가 정리 증명 능력을 훈련하려고 수학자 팀을 따로 고용하고 있는데, 증명을 "부산물"이라고 부르는 것도 상당히 의심스럽습니다.
맞습니다. 지금 이 노력의 대가는 수학의 진보만이 아니라 LLM 기술의 발전과 AI 기업의 홍보 효과도 포함하는데, 이는 다시 기술 개발로 환류됩니다. 그 각각은 노력 대비 효과(ROI)가 다릅니다.
소프트웨어 엔지니어는 주로 결과 지향적입니다.
수학자는 주로 이해 지향적입니다.
진짜 이해 없이 AI를 활용해 새로운 개척지를 공략하면 수학자는 엔지니어로 바뀝니다.
사회적 역할은 기술적으로 사람 없이는 불가능한 영역의 경계에서 생겨나고, 문화는 인간 활동의 어떤 형태를 중심으로 발달합니다. 역할 A는 B를 하고 역할 X는 Y를 합니다. 글쎄요, 어쩌면 전에 없던 새로운 역할이 생길 때가 된 것인지도 모릅니다.
결국 우주를 이해하려는 이유는 그 이해를 활용해 구체적인 목표를 이루기 위해서잖아요.
요즘 쏟아지는 수백 개의 증명은 실용적인 쓸모 없이 호기심 자체가 목적인 거창한 학술 연습 같아 보여요. 쓸모가 있었다면 그중 하나라도 어딘가에서 적용되어 이득을 봤다는 얘기가 벌써 들렸을 테니까요. 전부 한심할 정도로 인상적이지 않아요. 수학자들이 기계가 푼 자기 애착 문제의 더 우아한 풀이를 찾는 걸 막는 건 아무것도 없어요. 어차피 그러려고 했던 일이고, 실용적으로는 완전히 무의미하지만요.
아니에요.