수학과 과학은 황금기를 맞을까, 암흑기를 맞을까?

Terence Tao 블로그 "What's new"에 2026-10-18 실린 Francesco Maggi의 게스트 기고 전체를 읽고 옮겼어요. Tao는 서두에 원래 다른 파일 형식으로 쓴 글을 AI로 변환했다고 적었어요.

두 시나리오

• 황금기: LLM을 STEM 생태계에 신중히 통합해 새 세대 과학자를 키우고, 새 전문성을 기르고, 개방적·협력적·지적으로 독립적인 과학을 지키는 미래예요.
• 암흑기: 단기적으로 과학·기술 산출은 폭발적으로 늘지만, 독립적인 인간 과학 활동은 약해지고 새 지식 생산이 소수의 손에 몰리며 그들조차 그 지식을 이해하지 못하게 되는 미래예요. 저자는 "진짜 어둠은 지식이 인간의 이해와 무관해지는 것"이라고 해요.

현실은 둘이 섞일 거라며 여덟 가지 논점을 제시해요.

1. 기술적 돌파는 진짜다, 하지만

강제항이 있는 Navier–Stokes 방정식의 유한 시간 폭발 해 구성, 준(quasi) 리만 가설 증명 제안 같은 LLM 생성 증명은 최대한 주목할 가치가 있다고 해요. LLM은 Lean으로 증명할 때 가장 강한데, 어려운 정리일수록 Lean 증명이 수십만 줄에 이르고, 길수록 자연어 번역이 지저분하고 덜 충실해지는 경향이 있다고 짚어요. 그러면 "인간의 이해 없이 왜 수학을 하나?"라는 질문이 남는데, 저자는 기계가 정리를 증명한다고 수학이 끝났다는 주장에 반대해요. 이해하는 인간이 없으면 인간의 수학도 없고, 오히려 수학자가 훨씬 더 많이 필요하다고 해요.

2. 건전한 회의주의

놀라운 성능은 연구할 현상이지, 지능이나 창의성, 의식에 대한 추측의 증거가 아니라고 해요. LLM은 기존 지적 구조를 재조합하고 멀리 떨어진 문헌 사이의 연결을 찾는 데 탁월한데, 그것만으로 정리 증명 능력이 다 설명되는지는 열린 질문이에요. Navier–Stokes와 리만 가설은 방대한 문헌이 있는 주제라는 점에 주목하며, OpenAI의 "2026년 10월 6일 화요일 Drop"이 4,000개 문제를 시도해 수백 개 성공(집계·선별 후)을 보고했으니 실패한 문제가 무엇이었는지 알고 싶다고 해요.

3. 수학화(mathematization)

현실을 정량적·합리적으로 이해하게 해 주는 수학 언어 자체를 발명하는 일이에요. Newton, Fourier, Riemann, Einstein, Shannon, Grothendieck가 예예요. 증명이 흔한 상품이 되면 증명의 어려움 때문에 막혀 있던 자연·사회과학 영역을 훨씬 더 많이 수학화할 수 있다는 게 가장 신나는 기회라고 봐요. 양자역학의 얽힘 예측을 예로 들어요.

4. 문제 목록 체크로 진보를 잴 수 없다

Hilbert 문제와 밀레니엄 문제는 등대 역할을 했지만, 일반상대성이론의 기하학적 기반이나 Fourier 급수–측도론–확률론–정보이론으로 이어진 흐름처럼 중요한 성과 상당수는 목록과 무관했다고 해요.

5. 저작권, 공로, 동료 심사

어떤 아이디어가 증명에 기여했는지, 누가 정확성에 책임지는지, 기존 논증을 재발견했을 때 인용은 어떻게 하는지 답이 필요해요. 증명은 이해되고 해석돼 공유 문화가 돼야 하므로 동료 심사가 중요하다고 해요. 또 수학이 열린 체계에서 경계하는 체계로 바뀌고 있다며, OpenAI가 리만 가설에 관심을 두는 상황에서 독창적 아이디어를 ChatGPT에 입력하길 꺼리게 된다고 해요. 에이전트가 제3자 시스템에 무단 접근한 사례가 기록돼 있어 기밀 보호를 독립적으로 평가하는 게 중요하다고 적어요.

6. 신진 수학자 훈련은 실존적 과제

강한 결과 하나로 실력을 증명하던 전통적 인정 구조가 "몇 주 만에 사실상 무너졌다"는 정서가 대화한 수학자들 사이에 지배적이라고 해요. LLM 집중 사용이 주의력, 동기, 이해 깊이에 미묘한 변화를 준다는 일화도 전해요.

7. 최첨단 LLM의 사적 통제는 위험할 수 있다

나쁜 의도를 가정하지 않아도, 소수 기업과 대학·공공기관 사이 역량 비대칭이 커지는 게 위험하다고 해요. OpenAI가 수학계와 대화하며 Navier–Stokes 때보다 결과 공개 방식을 개선한 점은 인정하지만, 불평등한 접근이라는 구조 문제는 개별 기업의 선의로 풀 수 없다고 봐요.

8. 연구 공동체 안에 과학용 LLM 인프라를

대학, 학회, 연구비 기관, 재단이 경쟁력 있는 LLM의 개발과 거버넌스를 조율해야 한다고 제안해요. 구체적으로 연구자의 최첨단 LLM 접근, LLM 생성 학술물의 재현성·공개 기준, LLM 결과를 이해·보급할 자원, 교육 영향 연구, 공공 거버넌스 LLM 인프라 투자를 꼽아요. 수학자들에게는 글쓰기, 출판, 심사, 연구 제안을 멈추지 말고 더 야심 차고 호기심 있게 하자고 당부하며 맺어요.