렉스 프리드먼의 이번 에피소드는 13개의 주제로 나뉘어 있습니다. 게스트는 세 명입니다:
워싱턴 대학교에서 유체역학을 연구하는 스티븐 브런턴
MIT에서 이론 컴퓨터 과학을 연구하는 앙쿠르 모이트라
럿거스 대학교에서 정수론과 리인을 연구하는 알렉스 콘토로비치.
영상에서는 나비에-스톡스 방정식, 리만 가설 및 계산 복잡성 이론을 다루며, 그 배경은 몇 주 사이에 AI가 이들 분야의 미해결 난제들을 연이어 해결했다는 발표 때문입니다.
세 명의 수학자가 각자의 전문 분야에서 몇 가지 쟁점을 분석했다: 이러한 성과들은 과연 어느 정도의 의미를 지니는지, AI는 새로운 아이디어를 창출하는 것인지 아니면 기존 방법을 재구성하는 것인지. ‘문제 해결’이 기계에 맡겨질 수 있게 된 이후, 수학자들에게 남은 것은 무엇일까…
영상에서 매우 충격을 받았습니다. 성과는 분명히 나왔지만, 그 경계는 여전히 불분명합니다. 모이트라에 따르면, AI를 수천 개의 문제에 적용해 본 결과 성공률은 약 10%에 불과했고, 공개된 사례들은 모두 성공한 것들뿐이라고 합니다. “수학 문제 풀이”와 “수학 이해”는 점점 분리되고 있습니다. 도어맨 오류는 우리에게 인간의 가치가 문제를 제기하고 개념을 창안하며 좋은 이야기를 전하는 데 있음을 상기시켜 줍니다.
그리고 나비에-스토크스 방정식에 관한 “백만 달러짜리 수학 문제와 조 단위의 공학적 난제”라는 표현은, 수학적 돌파가 곧바로 현실 문제의 해결을 의미하지 않는다는 점을 가장 잘 보여줍니다. 흥미로운 뒷이야기로는, 콘토로비치가 수요일에 “최소 3년은 걸릴 것”이라고 말했지만, 금요일에는 1,300만 줄에 달하는 Lean 코드가 그를 반박했습니다. 반전이 너무나도 빨라서 일주일도 채 지나지 않았습니다.
여기서 얻을 수 있는 교훈은 전문가를 신뢰해서는 안 된다는 것이 아니라, 지금 이 순간 모든 사람이 자신의 모델을 실시간으로 업데이트하고 있다는 점입니다. 불확실성에 직면했을 때 호기심을 유지하고, 진정한 실력을 익히며, 사람과 사람 사이의 연결을 소중히 여겨야 합니다.
렉스는 입을 열자마자 이번 회를 “긴급 프로그램”으로 규정했다. 불과 몇 주 만에, 이 기계는 나비에-스톡스 방정식, 준리만 가설, 유일한 게임 가설 및 수백 가지의 다른 결과를 해결했다고 선언했다. 그는 세 명의 수학자를 초청해, 이를 “인간 두뇌로 구성된 미니 다중 에이전트 클러스터”라고 자조하며, 방금 일어난 일을 함께 해석하도록 했다.
화면을 길게 누르면 작은 창이 이동합니다.
AI가 촉발한 수학의 위기: 나비에-스톡스 방정식에서 리만 가설까지 1. 서두
렉스는 먼저 사과하며, 처음부터 감상을 묻는 것은 다소 전문적이지 않다고 말한 뒤, 곧바로 질문을 알렉스에게 넘겼다.
콘토로비치: 저는 그것을 ‘위기’라고 부르고 싶지는 않습니다. 위기 속에는 수많은 기회가 있습니다. 수천 년 동안 우리는 마치 숲속에서 촛불을 들고 걷는 것과 같아서, 눈앞의 작은 공간만 볼 수 있었습니다. 이제는 손에 손전등을 들게 된 것입니다.
렉스는 그를 가볍게 넘기지 않고, 트위터에 올라온 그의 반응을 공개했다: “만약 인간이 한 일이라면 당장 필즈상을 수상했을 것이다.” 그는 또 한마디 덧붙였는데, 원문에는 아마 “holyshit”이라는 감탄사도 포함되어 있었다.
모이트라의 심정은 좀 더 복잡하다. 그는 그날 밤 발표된 성과가 완전히 뜻밖은 아니었다고 말했다. 몇 주 전부터 관련 학계에서는 그의 분야에서 가장 큰 두 가지 문제, 즉 유일한 게임 추측과 RL=L이 해당 성과들에 포함되어 있다는 소문이 퍼져 있었기 때문이다.
모이트라: AI는 언제나 대기 중인 세계적 수준의 전문가와 같아서, 나의 모국어로 다른 분야에 대해 설명해 주니 정말 훌륭합니다. 하지만 이제는 학생들과 박사후연구원들에게 어떤 과제를 내줘야 유명해질 수 있을지 점점 더 막막해지고 있습니다. 저는 매우 흥분되지만, 지적으로는 예전보다 더 외로워졌습니다.
이어 렉스는 테오도르 토르의 한 구절을 읽었다: 대학원생과 박사후 연구원들이 수년간 인내를 갖고 의도적으로 천천히 진행해 온 연구가 이렇게 한 번의 발표로 손쉽게 뒤흔들리게 되자, 그는 이에 대해 “공포”를 느꼈다.
보아하니, 브런턴이 세 사람 중 가장 낙관적인 듯하다. 그는 이렇게 말했다: “저는 엔지니어로서 인공 심장과 항공기에 관심을 두고 있습니다. 우리에게는 실제 문제를 해결하는 능력이 훨씬 더 뛰어납니다. 그리고 인간의 의미란 애초에 유명해지거나 필즈상을 받는 데 있는 것이 아니라, 호기심을 갖고 다른 이들을 돕고 이 세상을 이해하려는 데에 있습니다.”
II. AI는 수학을 ‘해결’할 것인가, 아니면 ‘멸망’시킬 것인가?
렉스는 두 가지 미래에 대해 각각 가장 설득력 있는 논거를 제시해 달라고 요청했습니다. 콘토로비치는 먼저 ‘수학을 해결하는 것’과 ‘수학을 파괴하는 것’을 두 가지로 나눈 뒤, 체스 이야기를 들려주었습니다.
콘토로비치: 체스 엔진이 처음 등장한 몇 해 동안은 인간과 컴퓨터가 협력해 체스를 두는 방식이 유행했습니다. 하지만 이후 엔진의 실력이 지나치게 강해지면서, 인간이 할 수 있는 일은 그저 “첫 수를 받아들인다, 첫 수를 받아들인다”뿐이 되어버려 흥미가 떨어졌고, 지금은 더 이상 아무도 그러지 않습니다.
그는 동료들과 함께 이 논증을 ‘공리화’하여, ‘해결 공리’ 하나를 제시했다: 인간과 기계의 협업으로 해결할 수 있는 문제라면 AI만으로도 해결할 수 있다.
하지만 그는 이후에 일부러 이를 명확히 하며, 자신은 우리가 이미 그 단계에 이르렀다고 믿지 않는다고 밝혔습니다: “내가 어떤 정리를 증명할 수 있다 해도, 그 증명이 왜 성립하는지 이해하지 못한다면 아직 끝난 것이 아닙니다.”
모이트라는 모든 사람이 하나의 목표 함수에만 집중해서는 안 된다고 상기시켰다. 그는 뉴욕에 살 때 아파트 복도에서 일하는 도어맨과 자주 대화를 나누었다고 말했다. 만약 도어맨의 업무를 ‘문 열기’로 단순화한다면, 센서가 달린 문만 설치하면 그를 대체할 수 있다고 생각하게 될 것이다. 이것이 바로 ‘도어맨 오류’이다.
수학자들도 마찬가지로, 추측을 증명하는 것은 깊이 있는 사고의 부산물일 뿐이며, 우리는 여전히 새로운 이론을 정립하고 새로운 개념을 창안하고 있습니다.
렉스는 그 자리에서 Perplexity를 이용해 문지기가 정확히 어떤 일을 하는지 검색해 보았고, “브랜드 가치를 드러낸다”는 항목을 읽게 되었다. 모이트라는 웃으며 이렇게 말했다: “그렇다면 저와 문지기의 공통점은 정말 많네요. 제가 브랜드 가치를 드러내지 않으면, 도대체 무엇을 하고 있는 건지 모르겠어요.”
콘토로비치: 불과 5초 전까지만 해도, ‘심오한 새로운 정리를 증명할 수 있다’는 것과 우리가 진정으로 원하는 ‘아름다움, 이해, 깊이’는 거의 완전히 연관되어 있었습니다. 이제 버튼 하나만 누르면 정리가 나올 수 있게 되면서, 이 둘은 서로 분리되었습니다.
브런턴: 질문에 답하는 것보다 한 걸음 더 앞서는 것은, 올바른 질문을 던지는 것이다.
모이트라: 전적으로 동의합니다. 한 가지 덧붙이고 싶은 점은, 올바른 질문을 제시하는 것 자체가 상당한 수학적 통찰을 요구한다는 점이며, 이 점을 간과해서는 안 됩니다.
3. 그것은 정말로 새로운 아이디어를 가지고 있는 것일까요, 아니면 그저 같은 이야기만 반복하고 있는 것일까요?
Lex가 질문합니다: AI는 단지 수천 편의 논문에 있는 단서들을 서로 엮어 놓은 것에 불과한가요?
콘토로비치: 그 700편은 모두 다 보지는 않았습니다. 준리만 가설을 예로 들면, 사용된 각 단계는 인간이 이미 알고 있는 방법들인데도 불구하고, 그 긴 추론의 연결고리를 따라가다 보면 정말 놀라게 됩니다. “세상에, 너무나 아름답군요. 어떻게 그런 생각을 해냈을까요?”
그는 비유를 들었다: 인간이 이미 가지고 있는 아이디어를 하나의 풍선에 비유한다면, 그 풍선 안쪽이 바로 ‘볼록포집’이며, 즉 기존 방법들의 모든 조합을 의미한다.
어떤 이는 AI의 성과가 모두 풍선 속에 있다고 말했는데, 그 역시 틀린 말은 아니라고 생각한다. 또한 그는 20년 전에도 이미 이 방향을 고민한 사람들이 있었고, 2년 전에는 세 번째 세타 함수와 세 번째 가우스 합에서 또다시 돌파가 이루어졌다고 언급했다. AI가 걸어온 길도 바로 그 길이며, “지금쯤 많은 이들이 분명히 후회하고 있을 것”이라고 덧붙였다.
모이트라: 풍선의 핵심은 경계에 있다. 이를 부정적으로 표현하는 이유는, 경계가 마치 움직이지 않는 것처럼 보이기 때문이다. 그러나 하나의 결론이 성립한다는 사실을 아는 것만으로도 전체 분야를 변화시킬 수 있다.
그는 가장 이해하기 쉬운 예시를 하나 들었다.
이 예시는 OpenAI의 성과 목록에 포함되지 않으며, Anthropic의 결과로, 그의 동료인 버지니아 바실레브스카 윌리엄스와 조시 알만이 정리한 논문에 실려 있습니다. 면접에서 자주 출제되는 3SUM 문제는 사실 모든 사람이 생각했던 것보다 더 빠르게 해결할 수 있다는 것이 밝혀졌습니다. 세분화된 복잡성 이론에서는 “만약 그것이 어렵다면, 이러한 문제들도 모두 어렵다”는 일련의 추론을 전개해 왔는데, 이제 그 기반 자체가 흔들리게 된 것입니다.
콘토로비치는 자연스럽게 다음과 같은 시나리오를 상상해 보았다: 만약 그 700개의 결과 중 하나가 ‘다항식 시간 내에 큰 수를 소인수분해하는 방법’이라면, 신용카드는 사용할 수 없게 되고 전자상거래와 암호화된 통신은 모두 망하게 될 것이다.
브런턴의 태도는 훨씬 더 긍정적이다. AI가 인간 지식 내부에서 단순히 보간 작업을 수행할 뿐이라 하더라도, 안개를 걷어내고 수학자들에게 레이더를 장착해 지평선 너머에 무엇이 있는지 명확히 파악하게 해주는 것만으로도 이미 대단한 일이며, 이를 폄하해서는 안 된다.
콘토로비치는 여전히 한 가지 점을 고수한다: 인간은 때때로 완전히 새로운 정의를 도입하는데, 그 느낌은 마치 새로운 경계점이 생겨나는 것과 같으며, 기존 아이디어를 재조합하는 것과는 전혀 다르다.
4. 학술지, arXiv, 그리고 그 1,300만 줄의 Lean
렉스는 오픈소스 커뮤니티를 비유하며, 유지보수자가 쏟아지는 병합 요청에 압도되고 있다고 말했다. 콘토로비치는 AI 시대 이전에도 수학 학술지들이 이미 과중한 부담을 겪어 왔다고 밝혔다.
콘토로비치: 우리에게 진리 탐구의 방식은 애초에 일부러 느리게 진행되는 것이었습니다. 페렐만은 증명을 arXiv에 올린 뒤, 전 세계를 돌며 3시간짜리 즉흥 강연을 했는데, 아마도 1시간 동안 자신의 사고 과정을 설명하고 나머지 2시간은 다른 사람들이 “247쪽, 보조정리 412, 이해가 안 됩니다”라고 질문하는 시간이었을 것입니다.
모이트라는 “좋은 위기를 낭비하지 말자”고 주장한다: 논문은 저자가 독점하는 최종본일 필요가 없으며, AI 증명 역시 커뮤니티가 함께 협력하여 검증할 수 있다. ‘보조정리 57’에 대해 묻자 그는 “도저히 기억나지 않는다”고 솔직히 밝혔고, 실제로 하고 싶었던 것은 그 핵심 아이디어뿐이었다.
이어서 화제는 린(Lean)으로 넘어가는데, 이는 컴퓨터가 각 단계의 논리를 한 줄씩 검증하는 ‘대화형 정리 증명기’를 의미한다.
콘토로비치는 이번 호에서 가장 극적인 이야기 중 하나를 전했습니다.
콘토로비치: 저는 프린스턴 대학교 수학과에서 발표를 진행했는데, Lean과 Mathlib(Lean의 공용 수학 라이브러리)에 대해 자세히 설명했습니다. 또한 AI는 라이브러리에 이미 존재하는 내용에서 서너 단계만 벗어나도 제대로 작동하지 않으며, 두 가지 용도를 위해 동일한 객체를 각각 정의하더라도 그 두 정의가 서로 맞아떨어지지 않는다고 지적했습니다.
페르마의 마지막 정리는 Mathlib과는 거리가 멀기 때문에, 케빈 버저드는 100만 달러의 연구비를 받아 5년 안에 이를 완성하려 하고 있습니다. 제 생각에는 적어도 추가로 3년은 더 필요할 것 같습니다. 보고서는 수요일에 발표될 예정입니다.
금요일, 앤트로픽은 1,300만 줄의 코드를 공개하며, 공리로부터 페르마의 마지막 정리를 증명했습니다. 제가 보고서에서 한 모든 문장은 틀렸습니다.
렉스: 얼마나 많은 인간이 참여했나요?
콘토로비치: 제가 알기로는 두세 명 정도가 있는데, 주된 업무는 계속해서 “계속”이라고 말하는 것입니다.
그 금요일은 마침 노동절이었고, 그는 아이를 데리고 해변으로 갔다. 며칠 동안 휴대폰도 보지 않은 채 “아이를 바다에 던져 놀게” 했다. 그는 이와 비슷한 심리적 충격을 한 달 전에도 이미 한 번 겪었다고 말했다.
그의 결론은 다음과 같다: 자동 형식화는 거의 해결되었지만, AI가 작성한 코드는 어디에나 임시로 조립된 것들로 가득해 Mathlib 수준의 ‘규범적’ 품질에는 아직 한참 미치지 못한다.
모이트라는 마지막으로 자신이 매우 중요하게 여기는 한 가지 관점을 덧붙였습니다: 수학은 “정리가 점점 높아지는 파도”가 아닙니다. 좋은 문제와 맞서다 보면, 그 문제 역시 당신에게 맞서게 되며, 바로 이 과정에서 우리는 배우게 됩니다.
5. 리만 가설: 위스키에서 7/8까지
콘토로비치: 리만은 매우 놀라운 사실을 발견했는데, 입력과 출력이 모두 복소수인 함수가 소수의 분포를 지배하고 있다는 점이었다.
이렇게 생각해 보세요: 마이크는 내 목소리를 일련의 숫자로 분해하고, 스피커는 이를 다시 원래의 형태로 복원합니다. 제타 함수가 소수에 대해 하는 일도 바로 이와 같습니다.
렉스는 그가 성과를 목격한 순간에 무엇을 하고 있었는지 물었다.
콘토로비치: 뉴욕 국립수학박물관의 만찬에서 위스키를 한 손에 들고 사람들과 인사를 나누며, 미 동부 시간으로 오후 6시쯤 발표될 것이라는 사실을 알고 있었기 때문에 계속 페이지를 새로 고쳤습니다.
당시 한 기자와 잡담을 나누고 있었는데, 결과가 서너백 개 정도 나올 것이라고 예상했지만, 나중에 알고 보니 700개나 되더군요. 그러던 중 저는 이런 내용을 보게 되었습니다: 정확한 리만 가설? 이 정보를 도저히 받아들일 수가 없었습니다.
그는 이 성과의 중요성을 다음과 같이 설명했다: 리만 가설은 제타 함수의 비자명 영점들이 모두 실수부가 1/2인 직선 위에 위치한다고 말한다.
과거에는 실부가 1인 직선 위에 점점 가늘어지는 영점 없는 띠가 하나 있다는 것만 알고 있었고, 지난 70년 동안 그 모습은 변하지 않았습니다. 그는 원래 이 띠가 조금 더 두꺼워지는 정도를 기대했을 뿐입니다.
그러나 AI는 무한한 수직대 하나를 직접 제시했는데, 실수부가 7/8과 1 사이에 영점이 없다는 것이다. 또 다른 증명에서는 약 11/12까지 확인되었다.
콘토로비치: 그러나 이 방법으로는 본질적으로 1/2까지는 도출할 수 없습니다. 완전한 리만 가설을 증명하려면 새로운 아이디어가 필요합니다.
모이트라는 중간에 짧은 이야기를 하나 들려주었다. 1950년대의 한 수학자가 한 희곡을 썼는데, 그 내용은 폰 노이만이 사망한 뒤 천국에 가서 신에게 리만 가설이 옳은지 묻는다는 것이었다. 신은 “영점들은 모두 1/2이라는 직선 위에 있다”고 답했다. 그러나 폰 노이만은 그것으로 만족하지 않고, 왜 그런지 알고 싶어했다.
콘토로비치: 수학은 결코 사실이 아니라 ‘왜’에 관한 것이다. 단지 결론이 참이라고만 알려 주어선 내 이해에 아무런 도움이 되지 않는다.
브런턴은 소수가 매력적인 이유가 세 살짜리 아이도 이해할 수 있기 때문이라고 말했다.
콘토로비치는 곧바로 자신의 아들 이야기를 꺼냈다. 두세 살 무렵에 20개의 블록을 가지고 놀았는데, 4×5 모양으로도, 10×2 모양으로도 조립할 수 있었다. 그러다 한 블록이 소파 밑으로 굴러가 버리고 나서는 남은 19개로는 아무리 해도 직사각형을 만들 수 없어 매우 답답해했다.
브런턴은 한마디를 덧붙였다: "이 일은 지금도 나를 괴롭힌다."
6. 나비에-스토크스: 피겨스케이팅의 소용돌이
렉스는 브런턴이 자신에게 유체역학에 매료되게 한 ‘수프’ 이야기를 꺼낸 뒤, 나비에-스토크스 방정식이 왜 그렇게 어려운지 그에게 물었다.
브런턴: 결국 이것은 유체에 대한 F=ma와 같으며, 즉 운동량 보존 법칙입니다. 단진자 방정식은 매우 간단히 쓸 수 있지만, 진자를 하나 더 달면 훨씬 복잡해지고, 유체는 무한히 많은 진자들로 이루어져 있습니다. 방정식을 세우기는 쉽지만, 실제로 유체가 어떻게 움직이는지를 완전히 이해하기는 매우 어렵습니다.
콘토로비치는 물리학자다운 질문을 던졌다: 일반상대성이론의 방정식에는 특이점이 나타나며, 이는 이후 실제 블랙홀과 일치하는 것으로 밝혀졌다. 그렇다면 나비에-스토크스 방정식에서 폭발적 발산이 발생한다면, 이는 물의 어떤 새로운 성질을 드러내는 것일까, 아니면 단지 원자 수준에서 해당 방정식이 성립하지 않는다는 사실만을 보여주는 것일까? 브런턴은 ‘엔지니어의 답’으로 다음과 같이 말했다: 이러한 방정식들은 특정 스케일에서는 매우 우수한 모델이다.
브런턴: 가장 간단한 폭발의 예는 dx/dt=x²이며, 제곱항이 포함된 피드백만 있으면 해가 유한 시간 내에 무한대로 발산하게 됩니다. 문제는 점성, 즉 꿀과 같은 내부 마찰인데, 이 점성이 폭발이 일어나기 전에 항상 이를 억제할 수 있는지 여부입니다.
이번에 증명된 것은 클레이 문제의 네 가지 버전 중 매끄러운 외력이 작용하는 경우이다.
브런턴: 정교하게 설계된 외력이 방정식의 일부 항을 상쇄하여 소용돌이를 형성하며, 그 반지름은 점점 작아집니다. 이는 마치 피겨스케이팅 선수가 팔을 몸쪽으로 모으면 회전 속도가 점점 빨라지는 것과 같으며, 수축 속도가 딱 적절히 조절되어 에너지는 항상 유한한 반면 속도는 무한대로 증가합니다. 이러한 현상은 오직 3차원에서만 발생할 수 있습니다.
Lex는 이것이 엔지니어링에 어떤 의미인지 물었다.
브런턴: 일상적인 유체 공학은 거의 완전히 변하지 않았으며, 유체는 한두 달 전과 마찬가지로 시뮬레이션하기 매우 어렵습니다. 저는 종종 이렇게 농담처럼 말합니다. 우리는 수백만 달러짜리 수학 문제를 해결했지만, 여전히 수조 달러 규모의 엔지니어링 과제가 남아 있습니다. 바로 어떻게 하면 흐름을 빠르고 정확하게 예측하고, 이를 바탕으로 형상을 설계할 수 있는가 하는 문제입니다.
그는 진정한 큰 수수께끼는 난류라고 말했다: 대규모 소용돌이, 중간 규모 소용돌이, 작은 규모 소용돌이까지, 각각의 스케일이 모두 영향을 미치며 마치 다빈치가 그린 물줄기와도 같다.
기체는 온도, 압력, 밀도와 같은 몇 가지 수치로만 설명할 수 있지만, 난류는 그러한 일련의 수치가 존재하지 않습니다. 렉스는 질문합니다: 그 해답은 수학에서 나올까요, 아니면 AI에게 유체를 한동안 관찰하게 할까요?
브런턴: 둘 다 필요합니다. 모든 위대한 물리학적 돌파구는 먼저 하나의 좌표 변환으로부터 시작됩니다. 방대한 데이터를 이용해 가장 간단한 좌표를 찾는 작업은 바로 AI에 적합합니다.
7. 자연계는 어떻게 “계산”할까
모이트라가 말을 이어받았다: 자연은 본래 어떤 계산 문제를 해결할 수 있을까?
그는 카말 자인의 한 말을 인용했다: “내 노트북으로는 계산할 수 없고, 시장도 계산할 수 없다.” 내시 균형은 계산하기가 매우 어려워, 그것이 과연 사람들이 실제로 어떻게 게임을 하는지를 제대로 설명할 수 있는지에 대한 의문을 불러일으킨다.
브런턴은 곤충의 사례를 들었다: 곤충들은 유체역학 박사 학위도 없고 슈퍼컴퓨터를 돌리는 것도 아니지만, 돌풍과 비바람 속에서도 안정적으로 날아다닐 수 있다.
날개가 바람에 휘어지면, 어깨 근육 속의 뉴런이 그 자리에서 계산을 완료하고 보정을 수행하며, 이는 신호가 뇌로 전달된 뒤 다시 되돌아오는 시간보다도 더 빠릅니다.
모이트라는 야구 팬으로, 한 논문을 기억한다: 외야수는 타구가 떨어지는 지점으로 직선적으로 달려가지 않고 약간 곡선을 그리는 경로를 따라 달리며, 공의 궤적에 맞춰 주행 방향을 조정한다고 한다.
모이트라: 자연스럽게 도출된 해는 대개 매우 안정적입니다. 어려운 점은 최적화 자체가 아니라, 문제를 처음에 어떻게 올바르게 정식화하느냐에 있습니다.
휴식을 앞두고 렉스는 자신이 ‘뜬 생각’이라고 부르는 아이디어를 내놓았다. 아마도 나비에–스토크스 방정식의 특이점은 서로 연결된 두 개의 블랙홀을 지날 때에야 비로소 의미를 갖게 될지도 모른다는 것이다. 그는 자조적으로 말했다. “혹시 앞으로 이것이 내가 단 한 번만 맞힌 말이라는 사실이 밝혀진다면 어떨까요.”
8. 유일한 게임 추측: 저자는 자신이 읽지 않을 것이라고 말한다
Lex는 Moitra에게 유일한 게임 추측에 대해 설명해 달라고 요청했습니다.
Moitra: 먼저 SAT부터 이야기해 보겠습니다. 예를 들어 “x1 또는 ¬x3 또는 x7”과 같은 일련의 ‘OR’ 절들을 주고, 이들 모두가 참이 되도록 참·거짓 값을 할당하는 조합을 찾는 문제입니다. 다른 사람이 답을 알려주면 이를 쉽게 검증할 수 있지만, 스스로 찾아야 한다면 상당히 어려울 수 있습니다.
이어서 그는 1990년대에 뉴욕타임스 1면을 장식한 PCP 정리에 대해 설명했다. 이 정리는 특정 형식으로 증명될 수 있으며, 검증자가 무작위로 몇 개의 절만 확인해도 높은 확률로 거짓말을 하는 사람을 포착할 수 있다. 유일성 게임 추측은 이를 더욱 강화한 버전으로, 만약 이것이 성립한다면 ‘어느 정도까지 근사할 수 있는지’와 관련된 수많은 문제들에 대한 답이 확정된다.
그는 2010년대에 사람들의 견해가 오락가락하던 시기를 회상하며, 동료인 도르민저와 이릿디누르 등이 보다 약한 2-to-1 버전을 증명했을 때 “총성이 울리듯 모든 이의 마음을 뒤흔들었다”고 말했다.
모이트라: 솔직히 말하면, 저는 한때 회의론자 쪽에 서 있었습니다. 왜냐하면 그게 너무나도 좋은 이야기여서 정말일까 하는 의심이 들었기 때문입니다.
가장 흥미로운 점은 우연히도, 발표 당일 그는 뉴욕에서 잠시 들러 NYU를 방문해 이 추측을 제안한 수바시 코트를 만났고, 무심하게 물었습니다: “만약 누군가가 이를 확정하는 증명을 공개한다면, 당신은 그것을 읽겠습니까?” 코트는 대답했습니다: “아니요.”
모이트라는 원래 성공할 것으로 기대되던 인간 중심의 접근 방식이 포기되고 모두가 열정을 잃게 될까 봐 우려했다. 그날 밤 수학 박물관에서는 마침 에셔의 회화 전시회가 개막했는데, 그는 사람들이 수학을 하는 본래의 이유가 바로 놀이이며 세상을 이해하는 것이라는 점을 계속 떠올렸다.
모이트라: 젊은이들은 스스로에게 물어보아야 합니다. 당신의 호기심이 지능보다 더 많은가, 아니면 지능이 호기심보다 더 많은가? 반드시 호기심을 최우선으로 두어야 합니다.
9. 수학자는 어떻게 사고하며, 수학은 발명인가 발견인가
그들은 올림픽 챔피언이 금메달을 딴 뒤 종종 우울함에 빠진다고 이야기한다. 30년 전, 페르마의 마지막 정리를 증명한 앤드루 와일스의 다큐멘터리에서는 그가 책상 앞에 앉아서 영감이 떠오른 순간을 회상하며, 평생 다시는 그런 순간을 경험하지 못할 것이라고 말하다가, 점점 목이 메어 더 이상 말을 이어가지 못했다.
콘토로비치: 버튼 하나만 누르면 답이 나오는 그런 느낌을 받아본 적 있나요? 절대 그렇지 않습니다.
모이트라는 자신의 학생 지도 방식에 대해 다음과 같이 설명했다. 자신이 전공하는 분야에서 ‘십이오도’ 정도 벗어난 문제를 일부러 내어 학생들에게 중요한 논문을 읽게 한 뒤, 그 내용을 다시 자신에게 설명하게 한다. 이 과정에서 스스로의 문제 인식 관점과 새로운 질문을 발견하게 된다.
이제 AI도 한 분야를 그만의 언어로 명확히 설명할 수 있게 되었는데, “사람의 손길이 빠진 그 부분이 조금 아쉽다”고 합니다. 또한 그는 학생들이 AI 열풍과 “앞으로 일자리가 남아 있을까”라는 걱정에 짓눌려 3~6개월 내의 일만 생각하게 되었다고 말했습니다.
브런턴: 저는 한 가지 공학적 문제를 끈질기게 파고들지만, 동시에 주변을 흘깃 살펴볼 자유도 스스로에게 남겨둡니다. 생물학이나 재료공학 등 인접 분야의 혼란과 복잡함이 종종 영감의 원천이 되곤 하니까요.
“수학은 발명인가 발견인가”라는 질문에 대해 브런턴은 “둘 다다”라고 답했다. 우리는 형식적 도구를 만들어 내고, 그것들이 놀랍도록 효과적이라는 사실 자체가 바로 기적이라고 그는 말한다. 그는 지금도 정수가 과연 존재하는지 여전히 고민하고 있다고 한다.
콘토로비치는 이어 다음과 같이 덧붙였다: 인류는 수천 년이 지나서야 비로소 영을 발견했고, 서구의 수학자들이 음수를 받아들인 데 이어 복소수마저도 아직까지도 수용하는 상황에 이르렀다. 미적분학은 처음으로 무한이라는 개념을 본격적으로 다루게 했으며, 19세기에 카시와 푸리에가 서로 모순되는 정리를 증명하기에 이르러 비로소 ‘무한’이 강제로 전문화되었다. 오늘날 박사과정 1학년의 많은 교과목들은 바로 그 당시의 위기가 남긴 유산이다.
10. PvsNP: 최악의 경우, 마치 최악의 결과로 결혼을 결정하는 것과 같다
모이트라: PvsNP는 아마도 가장 깨뜨리기 어려운 문제일 것입니다. 우리는 심지어 SAT가 “입력을 한 번 읽는 것”보다 더 많은 시간을 필요로 한다는 사실조차 증명하지 못했지만, 사람들은 그것이 지수 시간이 필요하다고 믿고 있습니다.
렉스는 이렇게 비유했습니다: 복잡성 이론에서 말하는 ‘어려움’은 최악의 상황을 의미하는데, 이는 마치 ‘가장 나쁜 일이 일어날 경우’를 기준으로 누군가와 결혼할지 여부를 결정하는 것과 같으며, 인간관계에 적용하기에는 그리 좋은 방법이 아닐 것입니다.
모이트라는 비서 문제를 들어 ‘온라인 알고리즘’을 설명했다: 후보자가 한 명씩 들어오면 그 자리에서 바로 합격 여부를 결정해야 하며, 목표는 가능한 한 최고의 인재를 선발하는 것이다. 그는 또한 컴퓨터 캐시의 사례를 들었다: 노트북은 매 순간 다음에 어떤 데이터를 읽게 될지 예측한다. 그는 현실 세계의 입력이 왜 최악의 경우가 아닌지를 규명하는 것이 중요한 방향이라고 보았으며, 이는 ‘역문제’에 해당한다. 이를 위해서는 세계를 적당한 정도로 거칠게 분할하여, 딱 알맞은 수준으로 세분화해야 한다.
콘토로비치는 한 가지 예를 추가했다: 임의로 큰 수를 하나 골라서 소인수분해하면, 그 절반은 모두 짝수다. 진짜 어려운 것은 두 개의 큰 소수를 곱해서 얻은 그런 특수한 수이다.
11. LLM이 왜 유용한가: 올빼미를 사랑하는 모델
렉스는 다시 한 번 딥러닝이 왜 효과적인지에 대해 심층적으로 탐구한다. 모이트라는 기존 이론 중 어느 경계도 LLM을 설명할 수 없으며, 핵심은 자연 데이터가 “매우 우호적”이라는 점이라고 밝혔다.
모이트라: 단백질 접힘은 최악의 경우 계산적으로 매우 어려운 문제이지만, 자연은 매일 이를 수행합니다. 제 생각에는 진화 자체가 접기 쉬운 단백질들을 선택해 왔으며, 마치 우리 언어도 이러한 문제를 더 쉽게 만드는 방향으로 진화해 온 것과 같습니다.
그리고 나서 그는 등골이 서늘해지는 실험 하나를 소개했다:
모이트라: 모델 A에 “당신은 올빼미를 특히 좋아하며, 기회가 생기면 항상 올빼미를 언급합니다”라는 시스템 프롬프트를 제공한 뒤, 모델 A로 하여금 숫자 문자열만 출력하도록 합니다. 그런 다음 이 숫자들을 이용해 모델 B를 미세 조정하면, 결과적으로 모델 B는 매번 대화에서 올빼미를 언급하기 시작합니다. 이를 ‘잠재의식 학습’이라고 부릅니다.
그는 자신의 저랭크 모델을 통해 다음과 같이 설명했다: 개념들은 벡터의 형태로 모델 내부에 선형적으로 매핑되며, 차원이 부족할 경우 이들 벡터는 완전히 직교하지 않아 한 방향에서 미세하게 조정하면 다른 방향으로도 작은 영향이 확산된다.
그는 이를 어릴 적에 했던 우주판(Ouija board) 놀이에 비유했다: 각자의 손이 가볍게 미는 힘만으로 함께 모이면, 바늘이 글자를 조합해 내는 것이다.
사회자인 렉스가 화제를 다시 이끌어냈다.
우리의 문명은 매우 취약하며, 이러한 숨겨진 ‘올빼미’ 성향을 반드시 이해해야 합니다.
브런턴은 두 축으로 구성된 프레임워크를 제시했다. 한 축은 AI의 출력이 얼마나 신뢰할 수 있는지, 다른 축은 오류가 초래하는 비용이 어느 정도인지이다. “AI가 잘못된 증명을 내놓더라도, 그로 인해 전원이 차단되는 일은 없을 것이다.” 그러나 고위험 분야에서는 반드시 검증을 거친 방어벽이 필요하다.
12. AI가 당분간 해결하지 못하는 문제들, 그리고 페렐만
렉스는 또 물었다: 향후 1~2년 안에 해결될 가능성이 가장 낮은 문제는 무엇인가?
모이트라: 저는 여전히 PvsNP에 베팅하겠습니다.
P=NP라고 해도, 알고리즘이 너무 느려서 실용성이 없다면 그 영향은 제한적일 뿐입니다. 그는 『안나 카레니나』의 첫머리를 인용하며 이렇게 말합니다: 행복한 가정은 모두 비슷하지만, 불행한 가정은 각자 저마다의 불행을 지니고 있다.
그의 우려는, 많은 문제들이 사실 우리가 생각하는 것보다 더 쉽고, 어려운 사례들은 각각 저마다의 난이도를 지닌다는 점이다.
콘토로비치: 준 리만 가설은 이미 저를 크게 놀라게 했지만, 그것은 리만 가설이 아닙니다.
렉스는 또다시 페렐만을 언급했는데, 그는 “증명이 옳다는 것만으로 내가 원하는 모든 인정을 받은 것이다”라고 말하며 필즈상을 거부한 인물이다.
콘토로비치: 저는 페렐만이 어떤 행동을 할지 전혀 예측할 수 없습니다. 그가 필즈상을 거부할 줄도, 백만 달러의 클레이 상을 거부할 줄도 미처 예상하지 못했습니다.
그는 상의 의의가 “우리가 중요하다고 생각하는 것”을 인정하는 데 있다고 말했다. 그는 이제 매일 AI와 수학에 대해 대화하며 예전보다 훨씬 빠르게 배우고 있다. 예전에는 논문을 이해하기 어려워서, 누군가가 서두를 건너뛰고 직접 정리 3부터 역으로 추론하도록 가르쳐야 했지만, 이제는 논문을 LLM에 던져 물어보기만 하면 된다.
렉스의 우려는 더 일상적이다: 중학교 숙제가 점점 어려워지기 시작한 그 시점에, 왜 아이는 여전히 스스로 해야 하는 걸까? 콘토로비치는 이렇게 답한다: 계산기가 등장한 지 수십 년이 지났지만, 우리는 여전히 구구단을 가르친다.
콘토로비치: 아이가 처음으로 신발 끈을 묶는 법을 배웠을 때 얼마나 기뻤을까요? 그저 신발 끈일 뿐이라고 생각할 수 있습니다. 하지만 그렇지 않습니다. 그것은 세상에서 가장 멋진 일입니다.
마지막으로 젊은이들에게 드리는 조언
콘토로비치: 수학 박사과정 학생들에게 드리는 조언은 간단합니다. 그대로, 머릿속에 담을 수 있는 한 가장 어렵고 가장 추상적인 수학을 공부하세요. 또한 저는 이런 현상을 관찰했습니다. 어떤 학생들은 노트를 AI에게 던져 “나를 시험해 봐”라고 하면 성적이 훨씬 좋아지고, 또 어떤 학생들은 “과제는 한 시간 뒤에 제출할 거야, 답만 바로 알려줘”라고 하면 그건 또 다른 문제입니다.
브런턴: 초지능이 곧 초도덕을 의미하는 것은 아닙니다. 여전히 호기심을 가지고, 선형대수학과 미적분학 등 기초를 탄탄히 다져야 합니다. 설령 컴퓨터가 당신보다 더 잘 계산한다 해도 말입니다.
렉스는 이렇게 덧붙였다: 호기심은 주의 경제에 의해 빼앗기고 있으며, 당신을 궁금하게 만드는 그 엔진이 바로 당신이 스마트폰을 계속해서 스크롤하지 못하게 하는 원동력이기도 하다.
마지막으로 발언할 차례가 된 모이트라는 스스로 웃으며 “마지막에 말하니 좋은 의견들이 다 나왔네요”라고 말했다.
모이트라: 저는 대학 1학년 때 작은 수첩으로 4년간의 시간표를 짜면서, 단지 2학년에 광자학을 듣기 위해 그렇게 했을 뿐이었어요. 사실 광자학이 무엇인지 전혀 몰랐고, 그저 들으면 매우 멋있어 보인다고만 생각했죠.
현재의 사회에서는 고등학교 때부터 AP 과목과 과외 활동을 최적화하고, 명문 대학에 진학하며, 최첨단 연구실 면접을 위해 수업을 빠지고 주식을 사는 법까지 가르칩니다. 당신이 모든 관문을 통과했다면, 그래서 또 어떻습니까? 산지브 아로라는 예전에 저에게 이렇게 말했습니다: “종신교수직을 얻는 가장 간단한 방법은, 이미 그것을 얻은 것처럼 행동하면서 그동안 하고 싶었던 일을 하는 것입니다.”
렉스는 자신이 세 명의 ‘생존자’와 대화하고 있다고 털어놓으며, 모이트라의 말을 두려움에 맞서는 방법으로 요약했다: 이미 승리한 상황을 상상해 보라. 그 승리한 사람은 지금 무엇을 할까?
마지막으로 브런턴이 마무리를 짓습니다: 우리는 약 30년 동안 기계가 얼마나 많은 일을 할 수 있는지에 대한 실험을 해왔습니다. 이제는 기계가 할 수 있는 일이 너무 많아졌고, 그는 우리가 사실은 사람들과 함께 일하는 것을 더 선호한다는 사실을 깨닫게 될 것이라고 기대합니다.
렉스는 이어 말했다. AI가 지능을 저렴하게 만들 때, 여기서 주목할 점은 지능과 각종 퍼즐은 어디까지나 부수적인 것에 불과하며, 진정으로 중요한 것은 삶 그 자체와 삶 속의 사람들이라는 것이다.