“수학자 지정해 검증 맡기지 마” 수학계, AI 업계에 제동 [김현지의 with AI]

AI 개발사가 수학 난제를 풀었다며 수학자를 지정해 결과물 검증을 의뢰하던 관행에 미국 수학계가 제동을 걸었다. 수학을 둘러싼 학계와 AI 업계의 긴장이 한층 고조되는 양상이다.수학·인공지능 자문그룹(AGMAI·Advisory Group on Mathematics and Artificial Intelligence)은 지난 25일 UCLA 테런스 타오 교수의 블로그를 통해 ‘AI 결과 공개에서 수학자를 지정하는 방식의 단점(Disadvantages of Designating Mathematicians for AI Output Releases)’이라는 제목의 글을 공개하고 AI 기업이 특정 수학자를 지정해 비공개로 검토·해설하게 하는 관행을 앞으로는 쓰지 말라고 권고했다. UCLA 테런스 타오 교수의 블로그를 통해 공개된 AGMAI의 ‘AI 결과 공개에서 수학자를 지정하는 방식의 단점(Disadvantages of Designating Mathematicians for AI Output Releases)’ ● AI개발사가 고른 수학자, 검증 아닌 방패될 수 있어AGMAI는 기업이 결과를 검증하고 정리할 수학자를 직접 지정하면 학계가 스스로 결정할 권한을 빼앗기고, 다른 수학자들의 참여도 위축될 수 있다고 짚었다. 또 수학자 지정 과정이 기업의 인맥과 우선순위를 반영하는 데다 과정이 불투명하고 책임 소재도 불분명하며 지정된 수학자가 기업의 기대에 맞춰 행동하도록 유도될 수 있다고 우려했다. 수학자의 이름이 결과물의 보증이자 기업을 비판으로부터 막아 주는 방패가 된다면, ‘이해를 돕는다’는 본연의 역할마저 해칠 수 있다고 지적했다. 이어 수학자를 지정하는 대신 결과물을 기업이 통제하지 않는 학술 저장소에 올리고 독립적인 학술 공동체가 자율적으로 검토·해석할 수 있도록 지원하라고 썼다.이같은 권고는 지난 9월 29일 AGMAI가 발표한 성명 가운데 “AI 결과를 이해하는 과정은 학계가 주도해야 한다”는 원칙을 두고 여러 연구소와 수학자의 질문이 이어지자 취지를 설명하기 위해 추가로 나온 것이다. 당시 AGMAI는 ‘AI가 생성한 수학 내용에 대해 책임감 있게 공개하라’는 제목의 성명에서 “AI가 수학을 풀었다고 발표만 하지 말고 출처·검증 가능성·이해를 위한 자원까지 함께 책임지고 공개하라”고 권고했다. 답을 제시했을 수는 있어도 그 답이 어떻게 나왔는지 제대로 이해하지 못한 채 AI 성능을 홍보하려고 섣불리 내용을 공...