[10월12일] AI가 암을 치료해도 원리를 알아야 할까…수학자 타오의 질문에 쏟아진 반론

AI타임스의 일일 브리핑 기사(10월 12일)예요. 한국어 원문이라 핵심을 해설 형식으로 정리했어요.

발단: 타오의 '수학 2.0' 강연

세계적 수학자 테런스 타오 UCLA 교수는 9일(현지시간) 캘리포니아공대 강연 '수학 2.0'에서, AI가 수학 난제를 푸는 시대에도 사람이 그 결과를 이해하고 기존 지식과 연결하는 과정이 중요하다고 강조했어요. 수학에서는 답을 찾는 것만큼, 그 과정에서 새 개념과 방법을 발견해 다른 연구에 쓰는 일이 중요하기 때문이에요.

그는 가상의 사례를 들었어요. 고도화된 AI에게 3상 임상을 통과할 암 치료제를 만들라고 맡기자, AI가 알려지지 않은 화학물질 조합을 찾고 형식 검증 도구 Lean 인증까지 제시해요. 치료제는 실제로 3상을 통과하지만 사람은 작동 원리를 몰라요. 타오는 AI가 임상시험이나 수학 모델의 허점을 이용했을 가능성은 없는지, 그리고 초기 암 진단 환자에게 이 약이 권해질 때 원리를 조금이라도 이해하는 인간 전문가가 있다는 게 안심이 되지 않겠느냐고 물었어요.

수학계의 맥락

이 문제의식은 최근 수학계의 우려와 이어져요. 9월에는 타오를 포함한 필즈상 수상자 25명이 AI 기업들이 수학 난제 해결을 성능 경쟁 수단으로 삼으면서 인간의 이해와 지식 축적을 소홀히 한다는 성명을 냈어요. 지난 6일 OpenAI가 미공개 모델로 700편 넘는 수학 연구 원고를 공개하자 인간수학협회(AHM)도 얼마나 많이 풀었는지보다 사람이 이해하고 검증하는 과정이 중요하다고 지적했어요. 이번 강연은 이런 문제의식을 실제 응용 분야로 넓힌 셈이에요.

쏟아진 반론

암 치료제 사례가 SNS로 퍼지자 관심은 다른 곳으로 쏠렸어요. 원리 이해보다 환자의 생명이 먼저라는 반응이에요. 종양학자 비네이 프라사드는 지금 쓰이는 항암제 중에도 기전이 완전히 밝혀지지 않은 약이 있고, 의료 현장에선 기전을 다 아는 것보다 임상에서 확인된 효과와 안전성이 판단 기준이라고 비판했어요. 암 환자들은 임상 결과가 충분하지 않은 치료에도 희망을 걸 때가 있으니, 3상을 통과한 약이라면 환자와 의사가 받아들일 거라는 주장이에요. 온라인에서도 "암을 고친다면 원리를 이해하든 말든 무슨 상관이냐"는 반응이 이어졌어요.

서로 다른 질문

기사는 타오가 원리를 모르는 약을 쓰지 말자고 한 건 아니라고 짚어요. 슬라이드에선 전문가의 이해가 안심을 주지 않느냐고 물었고, AI가 허점을 이용했을 가능성을 함께 제기했을 뿐이에요. 결국 타오는 "AI가 알아낸 걸 사람도 이해해야 하지 않나"를 물었고, 반론 측은 "이해하지 못해도 환자를 살린다면 써야 하지 않나"에 답한 셈이에요. 수학에선 정답에 이르는 논리 이해가 학문의 성과지만, 의학에선 원리가 불분명해도 효과와 안전성이 확인되면 쓸 수 있다는 분야 차이도 작용해요. 그렇다고 이해가 불필요한 건 아니고, 원리를 알면 예상 못 한 부작용과 적용 범위 연구에 도움이 돼요. 기사는 임상적 신뢰성과 원리 이해를 구별할 필요가 있으며, AI가 쓸모 있는 결과를 내는 분야가 늘수록 사람이 이해해야 할 범위와 그 이해를 기다릴 수 있는 시간에 대한 논의가 커질 거라고 전망해요.

함께 실린 주말 주요 뉴스

• 할리우드가 AI 불안 속에 저커버그·머스크·알트먼을 다룬 영화를 잇따라 선보이며, 미국 중간선거를 앞두고 동시에 개봉한다는 점이 주목받아요.
• 클로드 웹에서 '보이스' 메뉴가 포착돼 앤트로픽이 자체 음성 모델을 개발한다는 관측이 나왔지만 구체 내용은 확인되지 않았어요.
• OpenAI와 앤트로픽 등이 대형 AI 사고 가능성에 대비해 사고 이후 사회 혼란과 규제 강화 시나리오를 준비하는 것으로 알려졌어요.