요약
AI가 미해결 문제를 쓸어 가는 지금, 수학은 '최초 증명'보다 이해와 공동체를 더 높이 쳐야 합니다.
수학자 테런스 타오가 수학자용 소셜 서비스 Mathstodon에 네 편짜리 글타래로 올린 주장입니다. AI로 문제만 풀고 떠나는 일이 늘면서, 돌파구 증명 뒤에 따라오던 연구 활동이 메말라 간다고 경고했습니다.
왜 중요한가
- AI가 수학에 기여할 수 있다고 믿는 타오가 지금의 AI 활용 방식은 분야를 소모시킨다고 지적했습니다.
- 한번 풀린 문제는 되돌릴 수 없습니다. 그래서 지금 생기는 손실은 나중에 바로잡기 어렵습니다.
- 수학계가 교육, 논문 출판, 경력 평가 기준을 새로 짜야 한다는 요구로 이어집니다.
핵심 내용
- 예전에는 큰 증명이 나오면 강연과 워크숍, 공동 연구가 이어지며 증명이 다듬어져 교과서에 실렸습니다.
- 지금은 AI로 문제만 풀고 떠나는 사람이 많아, 결과를 설명하거나 강연할 사람이 없다고 했습니다.
- 그 탓에 세미나와 공동 연구가 줄고, 남에게 선수를 빼앗길까 봐 유망한 연구 방향을 숨기는 일도 생겼습니다.
- 해법이 있다는 사실만 알려져도 다른 길로 새 통찰을 찾으려는 시도가 오염된다고 봤습니다.
- 앞으로는 해설, 공동체 형성, 새 연구 방향 개척을 문제 풀이만큼 인정해야 한다고 했습니다.
HN 반응
- LLM은 기존 지식을 엮을 뿐 원점에서 다시 생각하는 발견은 못 한다는 회의론에, 여러 분야를 엮어 실제 문제를 푼 것 자체가 새롭다는 반론이 맞섰습니다.
- AI 기업이 수학을 홍보용 성과로 쓴다는 비판과, 검증이 쉬운 수학이 AI 훈련장 구실을 한다는 설명이 함께 나왔습니다.
저는 훨씬 회의적입니다. 수학자는 아니지만, LLM을 써 보면 이들이 무엇을 잘하고 무엇을 못하는지 아주 뚜렷한 패턴이 보입니다. LLM은 방대한 정보를 결합하는 데 극도로 뛰어나고, 지금 수학에서 나오는 AI 성과도 바로 그런 것으로 보입니다. 수학에는 서로 연결된 하위 분야가 아주 많고 논문과 틈새 결과도 너무 많아서, 어떤 인간도 그 정보를 전부 읽고 이해하고 연결하고 머릿속에서 정리할 수 없습니다. 그것들은 거의 전부 인간이 만든 것이고요. 이미 발견한 것들에서 새 결과를 만들어 내는 일에는 분명히 가치가 있습니다.
하지만 한 걸음 물러서서 문제를 다른 각도로 바라봐야 하는 또 다른 종류의 발견이 있습니다. 엔지니어라면 LLM이 (따로 요청하지도 않았는데) 이렇게 말한 적이 몇 번이나 있습니까? "잠깐만요, 지금 하시는 건 별로 말이 안 됩니다. 아무도 생각하지 못한 훨씬 우아한 추상화가 있어요. 이 코드는 전부 걷어내고 제1원리부터 생각해서 문제를 다르게 접근해 봅시다." 거의 한 번도 없습니다. 그런데 과학에서는 가장 큰 발견 상당수가 이런 제1원리 사고에서 나왔습니다. 기존 연구와 접근법에 의문을 던지고 이미 있는 것에 맞서는 데서 나왔지, 국소 최적에 그치기 쉬운 기존 데이터를 모두 결합한다고 나온 게 아닙니다.
중세 천문학자들은 지구가 태양계의 중심이라고 가정하면서도 행성 궤도를 10분의 1도 이내로 놀랍도록 정확하게 예측했습니다. 이심원과 주전원(원 안의 원)이라는 아주 복잡한 체계를 만들어 냈죠. 완전히 틀린 모델이었지만 결과는 현실과 놀랄 만큼 가까웠습니다.
천문학 분석에 LLM을 썼다면, 점점 더 복잡해지는 주전원만 얻고 태양이 진짜 태양계의 중심이라는 사실은 끝내 깨닫지 못했을지 모릅니다. 그러면 상대성 이론으로 이어진 수성 궤도의 이상 현상도 알게 되지 못했겠죠.
그래서 저도 동의합니다. LLM이 과학이나 수학에서 고급 검색 기능 이상으로 얼마나 쓸모가 있을지 정말 의문입니다.
주전원 모델은 임의의 주기 함수 하나를 잘 이해된 여러 주기 함수(등속 원운동, 즉 복소 지수함수)의 합으로 나타냅니다. 오늘날 푸리에 급수 등을 통해 더 체계적으로 쓰는 것과 같은 발상입니다.
임의의 매끄러운 주기 함수를 근사하기에는 꽤 좋은 방법입니다.
제 추측으로는 이 모델을 처음 만든 사람들(히파르코스까지 거슬러 올라갈 수도 있고, 어쨌든 프톨레마이오스 시대에는 누군가)이 실제로 원들이 겹쳐져 있다고 생각한 것은 아니고, 데이터에 맞는 근사 모델을 만들려는 중이라는 점을 꽤 분명히 알고 있었을 겁니다. 그 전에 에우독소스가 만든 모델도 아마 꽤 정확했겠지만 계산하기가 더 번거로웠습니다. 지구를 중심으로 한 상상의 구(들)가 등속으로 회전하는 것을 조합해 눈에 보이는 행성의 움직임을 근사하는 방식이었습니다. (이에 관한 책이 전해지지 않아서 다른 사람들이 남긴 막연한 설명밖에 없으니 정확히는 알 수 없습니다.)
예상치 못한 것들이 튜링 완전한 시스템으로 드러나는 놀라운 사실과 비슷합니다(즉, 더 느릴 뿐 다른 어떤 컴퓨터가 할 수 있는 연산이든 해낼 수 있다는 뜻입니다). 보드게임, 촘스키의 생성문법, (어떤 의미에서는) 박테리아도 그렇죠. 자연어, 프로그래밍 언어, 논리 연산자의 기묘한 조합도 마찬가지고요.
무엇이든 개체를 상정하기 위한 기본 어휘 구실을 할 수 있고, 그것도 근본적인 물리적 실재의 일부와 맞아떨어지는 입체적인 방식으로 해냅니다.
표현 형태가 이렇게 서로 바꿔 쓸 수 있다는 점 때문에 반실재론으로 비약하고 싶어질 수 있지만, 그건 비극적인 비약입니다. 실용적인 태도를 유지하고 지식 주장을 잠정적인 것, 진리로 수렴해 가는 것으로 다루기만 하면, 기술이 어떤 형태로 만들어졌든 정당하게 진리를 추적한다고 할 만한 실질적 가치가 그 기술에 있다고 생각합니다.
훌륭한 지적이라고 생각하고, 이런 식의 복잡화는 일어날 수 있고 실제로 일어날 겁니다. 온라인 토론과 선전의 미래도 비슷하게 복잡해질 거라고 생각합니다.
다만 그건 통제할 수 있다고 봅니다. 설득력을 기준으로 경쟁 이론 가운데 어느 쪽을 선호하도록 원칙을 심어 두고, 경쟁 이론들을 서로 동등한 부분으로 환원해 상쇄시키면 됩니다.
제가 강하게 반대하는 부분은 이것입니다. 우리가 상대성 이론에 "결코" 도달하지 못했을 거라고는 전혀 생각하지 않습니다. 시뮬레이션된 뇌에 반대하는 "체화된 인지" 논증이 조금 떠오르네요. 그 논증은 뇌를 "그냥" 시뮬레이션할 수는 없다고 말합니다. 실제 뇌는 몸과 환경 속에 체화된 전체이기 때문이라는 겁니다. 그런 생각에 동의하든 말든(저는 동의하지 않습니다), 그게 사실이라고 가정하고 시뮬레이션 대상을 뇌+몸+환경으로 바꾸면 됩니다. 문제는 더 커지지만 같은 방법을 완벽하게 적용할 수 있습니다.
과학에 대한 이론화와 메타이론적 제약을 부과하는 일도 마찬가지라고 생각합니다. 데이터에 대한 1차 추론을 최적화할 수 있듯이, 건전한 가설 생성도 최적화할 수 있습니다. 분명히 더 어렵겠지만 본질적으로 종류가 다른 문제는 아닙니다.
LLM에 관해 읽으면 읽을수록, 창발에 두 단계가 있는 게 아닐까 싶습니다. LLM은 분명히 기저 벡터가 시사하는 것보다 많은 일을 합니다. 하지만 학습 데이터라는 하드 리밋이 있을 수도 있을 것 같습니다. 우리 지식의 빈틈을 메우는 건 분명한데, 늘 이제 막 한계에 부딪힐 것 같다는 느낌이 듭니다.
주전원이 좋은 예측을 했다면 "완전히 틀린" 것은 아니었습니다. 예측이 여전히 좋은 한 태양을 중심에 놓는 것도 "옳은" 것이 아니고요. 이건 취향의 문제이지 정확성의 문제가 아닙니다(물론 아주 좋은 취향이긴 합니다).
"고급 검색 기능"이 얼마나 판을 바꿀 수 있는지를 과소평가하시는 것 같습니다. 그 검색 엔진이 실험을 설계하고 수행해서 새로운 증거를 합성하고, 그렇게 자기가 내놓는 답이 충분히 뒷받침되도록 할 수 있다면, 인간은 사실상 과학의 "진리" 부분에서 빠지고 "아름다움" 부분에 조언만 하게 됩니다. 그래도 괜찮을 수 있겠지만 꽤 큰 변화입니다.
주전원은 예측력이 나빴을 뿐입니다. 지동설 모델에 비해 현실을 설명하는 데 훨씬 많은 자유 매개변수가 필요했습니다.
지식은 정보 압축으로 볼 수 있습니다(재미있게도 LLM에도 해당하는 이야기입니다). 지동설 모델과 뉴턴의 중력은 천체 운동에 관한 정보를 놀랍도록 압축한 것이고, 덕분에 주전원에서 출발하면 훨씬 어려웠을 관련 예측들까지 가능해집니다.
정보를 놀랍게 압축하는 것이 우주의 목표입니까, 아니면 우주를 이해하려는 인간의 목표입니까?
그리고 대부분의 모델은 손실 압축입니다. 지동설 모델이 대단한 건 틀렸기 때문입니다. 복잡한 부분을 그냥 무시하니까요.
미안하지만 지구가 태양 주위를 도는지가 "취향의 문제"라는 말은 완전히 터무니없어요. 쓸모 있는 예측을 하는 것과 실제 진실은 별개이고, 실제 진실은 "취향의 문제"가 아닙니다.
일반 상대성이론에 따르면 자유낙하하는(또는 공전하는) 모든 기준틀은 똑같이 타당하고, 국소적으로 뉴턴 법칙을 따릅니다. 그러니 엄밀한 의미에서 지구중심 기준틀과 태양중심 기준틀은 똑같이 타당합니다. 둘 다 "실제 진실"이라고 주장할 수 있습니다. 물론 태양중심 기준틀이 행성 궤도를 연구하는 데는 훨씬 유용합니다. 더 단순한 상태 방정식이 나오니까요. 하지만 그렇다고 지구중심 기준틀이 "틀린" 것이 되지는 않습니다.
다르게 말해 보죠. 태양이 사실은 궁수자리 A*를 중심으로 돌고 있으니, 태양중심 기준틀도 "틀렸다"고 하시겠습니까?
그 주장을 논리적 결론까지 밀고 가면 공동이동 기준틀만이 유일하게 "참"이라는 결론이 나올 겁니다. 그리고 마침내 이 주장에는 실제로 타당한 면이 있습니다. 우주 마이크로파 배경(CMB)이 시공간의 각 지점에서 선호되는 속도를 정해 주기 때문입니다. 하지만 우주론 밖의 문제를 연구하는 데 공동이동 좌표를 쓰는 건 꽤 비현실적입니다.
결국 "옳다", "틀리다"의 문제가 아니라 지금 하는 작업에 맞는 도구를 고르는 문제가 됩니다.
주전원이 틀렸던 것은 아닙니다. 다른 기준점을 고르면 훨씬 단순한 모델로 나오는 것을 기술하는, 불필요하게 복잡한 모델일 뿐이죠. 모델을 만들면서 더 단순한 기준점을 골랐다고 해서 지동설 모델이 모두 모든 것을 맞힌 것도 아닙니다. 모델은 기준점이 아니라 정확도로 평가하세요.
무언가가 "참"이라는 게 무슨 뜻인지에 대해 우리가 근본적으로 생각이 다른 것 같습니다.
범죄 혐의를 받는 사람이 왜 그 범행을 했는지 "불필요하게 복잡한 모델"을 만들어 낼 수는 있지만, 그것은 피고인이 실제로 유죄인지와는 전혀 상관이 없습니다. 피고인이 실제로 무죄라면 검찰의 모델은 증거에 아무리 잘 맞아떨어져도 실제로 참이 아닙니다.
증거에 더 잘 맞는 다른 설명이 있는데도 어떤 설명이 참일 수 있다는 말씀입니까?
아니면 두 후보 설명이 증거에 똑같이 들어맞는 경우를 말씀하시는 겁니까? 그리고 둘 중 어느 쪽이 참인지 알려 주는 직관 같은 것이 당신에게는 있다는 건가요?
저는 가진 최선의 설명 이 피고인이 유죄라고 시사하는데 실제 진실 은 무죄인 경우를 말하는 겁니다.
그 명제는 맞습니다. 통계학의 "과적합(overfitting)"이라는 개념(과 이름!)을 보세요.
그건 참이 아니라는 말을 달리 한 것뿐입니다.
정확하면서도 틀릴 수 있습니다. 암 환자의 사망 원인을 암 병동 입원으로 짚어내는 모델처럼요.
흥미로운 입장이네요. 그럼 똑같은 예측을 하는 이론이 여럿 있으면 가장 단순한 이론이 참이라는 말씀입니까?
가장 단순한 이론이 언제나 딱 하나뿐이라고 확신하세요? 아니면 다른 기준으로 고르시는 건가요?
아니요, 현상을 실제로 설명하는 이론이 참입니다. 제가 전하려는 개념은 흔히 "작용 기전(mechanism of action)"이라고 부르는 것입니다.
가장 단순한 이론이 가장 유력한 후보라고 보는 오컴의 면도날이라는 기본 원칙을 아마 알고 계실 텐데, 그건 규칙이 아니라 휴리스틱입니다.
여기서 관련된 또 다른 개념은 지도는 영토가 아니라는 것입니다. 모든 이론은 어떤 형식 체계를 통해 근본적인 진실을 표현해 보려는 시도입니다. 그중 어떤 이론은 지금까지 관측된 행동을 정확히 예측하는 것과는 별개로 진실에 훨씬 가깝게 대응합니다.
그런 접근의 철학적 문제는 근본적인 진실에 도달했는지 평가할 수 없다는 겁니다. 진실을 직접 인지할 방법이 없으니까요.
우리가 가진 것은 서로 다른 이론들뿐이어서, 예측 정확도 말고는 이론이 진실에 얼마나 가까운지 확정적으로 평가할 방법이 없습니다. 방을 나가 세상을 관찰할 물리적 능력이 없다면, 우리에게는 지도 자체와, 그 지도가 이동 시간과 가는 길의 지형지물을 얼마나 잘 예측하는지밖에 없습니다.
모든 현상에 유일한 작용 기전이 존재한다는 것부터 의심스럽지만, 존재한다고 가정해 보죠. 그래도 그게 무엇인지 항상 알 수 있습니까?
우리가 가진 유일한 도구는 상관관계가 드러나는 방대한 관측 더미의 귀납적 강도뿐입니다. 실험으로 특정 인과 이야기를 쳐낼 수는 있어도 가능한 이야기를 전부 제거할 시간은 결코 없습니다. 결국 우리가 가진 장비와 우리 및 동료들이 쓰는 이론에 비추어 납득이 되는 무언가가 남고, 그 정도면 충분하니 그걸로 앞으로 나아가는 겁니다.
특정 설명을 "그" 설명으로 기록해 두는 게 유용할 수 있다는 건 알겠습니다. 특히 약이 왜 듣는지 알리는 경우라면 누가 그 약을 먹어야 하고 먹지 말아야 하는지에 대한 유용한 결론으로 이어지니까요.
하지만 특정 천체가 특정 시각에 보일지에 대한 추측이라면, 하나의 설명이 본질적으로 옳다는 생각에 그렇게 단단히 매달리지 않았다면 과학이 훨씬 빨리 발전했을 거라고 생각합니다. 아마 지금도 다른 분야에서 똑같이 하면서 스스로 발목을 잡고 있을 겁니다.
지구의 관점에서 태양계를 모델링하는 것이 부당한 건 아닙니다. 태양의 관점에서 하는 것보다 모델이 더 복잡해질 뿐이죠.
제 요지는 물리 법칙이 다양한 수학적 틀 안에서 아주 잘 작동한다는 겁니다. 방정식의 복잡도를 가능한 한 낮게 유지하는 틀을 고르는 게 합리적이긴 하지만, 달을 중심에 놓는 틀이나 다른 어떤 지점을 중심에 놓는 틀을 골라도 틀린 건 아닙니다. 이론의 예측이 얼마나 정확한지는 "중심" 같은 이름표를 어디에 붙이느냐와는 완전히 별개입니다.
서로 다른 것을 뒤섞고 계신 것 같아요. 네, 어느 지점에서 보든 운동을 예측할 수는 있고, 그러려면 아마 주전원이 필요하겠죠. 하지만 사람들이 추구한 건 그게 아니었습니다. 인과가 중요합니다, 아주 많이요. 물리학의 핵심이 바로 그거고요(물리학이 그렇게 표현력 있고 강력한 이유이기도 하고요).
고전 상대성 원리가 허용하지 않는 건 임의의 지점에 자기를 놓고 그곳을 계의 질량 중심(즉 모든 것이 나를 중심으로 돌고 있다는 것)이라고 부르는 일입니다. 그건 불변이 아니니까요. 내 관점에서 물체의 운동을 예측하는 것과는 아주 다른 이야기입니다.
100% 동의합니다. 하지만 프톨레마이오스와 코페르니쿠스는 질량이나 인과를 이야기한 게 아니었고, 그냥 원점을 어디에 둘지 찾고 있었을 뿐입니다. 중력과 무관하게 예측을 한 거죠. 원점을 무게중심에 맞게 고르는 건 중력에 대한 현대적 이해를 가진 독자에게는 좋은 취향이겠지만, 예측이 들어맞는 한 다른 곳에 고른다고 틀린 건 아닙니다.
그리고 제가 AI가 풀지 못할 수도 있다고 말하는 부분이 바로 그것입니다. AI가 증거와 명세에 모두 부합하는 이론을 힘들이지 않고 만들어 낼 수 있다 해도, 어떤 상황에서 어떤 이론을 명세해서 쓸지는 여전히 생각할 게 많습니다.
"만물의 이론"이 존재할 수 있다 해도, 정확성과는 상관없는 말랑말랑한 인간적 이유 때문에 모든 상황에 적합하지는 않을 수 있습니다.
아니요, 이야기했습니다.
제 비판은 "x가 중심이다"와 "x에 앉아서 보면 운동이 y처럼 보인다" 사이에 차이가 있다는 겁니다.
이 둘은 완전히 다른 주장이고 결과도 크게 다릅니다. 이걸 사소한 문제로 치부하시지만, 그 사소한 부분이 핵심입니다. 천동설 모델에서는 왜 모든 것이 지구를 도는지 설명해야 합니다. 지동설 모델에서는 왜 모든 것이 태양 주위를 움직이는지 설명해야 하고요. 행성의 운동을 예측하는 것만으로는 이 물음에 답이 되지 않습니다. 하지만 이 물음에 올바르게 답하면, 어떤 임의의 계에서든 행성의 운동을 예측할 수 있는 일반화된 모델을 만들 수 있습니다.
덧붙이자면 저는 천동설 모델이 관측만으로는 인과를 얻을 수 없다는 점을 보여 주는 좋은 사례라서 좋아합니다. 과학에는 데이터 맞추기 말고도 훨씬 많은 것이 있습니다. 사실 그래서 수학자들이 다들 심란해하는 것이고, 테렌스 타오가 줄곧 이야기해 온 것도 그겁니다.
코페르니쿠스는 이유를 설명한 적이 전혀 없다고 생각합니다. 그건 150년이 더 지나서야 나왔죠.
지금은 우리가 물리학을 천문학에 묶어서 생각하지만, 그때는 그러지 않았습니다. 그래서 제가 이건 진실이 아니라 취향의 문제라고 하는 겁니다.
1540년대에 신 같은 LLM에게 천체의 이론을 물었다면 아마 "질량" 같은 단어는 아예 쓰지 않았을 테고, 그 LLM이 내놓은 이론에도 그 개념은 마찬가지로 없었을 겁니다.
17세기에는 취향의 문제였을 수도 있습니다. 교회는 태양이 지구를 돌고 행성들이 태양을 도는 모델을 받아들일 용의가 있었습니다. 이 모델은 관측과 맞았고, 우리가 움직이는 것처럼 느껴지지 않는 이유와 왜 지구에서 튕겨 나가지 않는지라는 문제를 피할 수 있어서 취향 면에서도 괜찮았습니다.
그러다 뉴턴이 나타나 모든 모델을 압도했습니다. 우주의 중심에 있는 존재는 없습니다 [0]. 하나의 중력 이론이 행성의 운동과 우리가 지구에서 튕겨 나가지 않는 이유를 모두 설명합니다. 게다가 푸코 진자나 코리올리 힘처럼 나중에 나온 실험으로 지구의 자전을 "느낄" 수도 있습니다.
[0] 제가 친구들을 놀릴 때 즐겨 내는 퍼즐이 있습니다. 지구는 사실 관측 가능한 우주의 가장자리로부터 모든 방향으로 같은 거리에 있으니, 결국 우리가 중심에 있는 셈이라는 겁니다. ;-)
"중심은 없다"와 "중심을 어디에 두느냐는 취향의 문제다"는 거의 같은 말이라고 생각합니다. 그리고 연필과 종이를 앞에 두고 태양계를 그리라는 요청을 받는다면 후자가 더 유용합니다.
그건 우리가 그것이 어떻게 작동하는지 더 많이 알기 때문에 우리에게 더 유용한 겁니다. 제가 시대를 콕 집어서 말한 이유가 그겁니다.