검증은 지식이 아니다: 과학에는 정답 이상의 것이 필요하다

AI가 만든 결과의 정확성만으로 과학적 가치를 판단하면, 결과를 비판하고 수정하며 지식으로 발전시키는 인간의 이해와 책임성을 놓치게 됨 이해는 정답에 덧붙이는 선택적 정신 상태가 아님. 결과가 실패했을 때 근거를 따지고 문제를 해결할 수 있는 책임지고 답할 주체가 있는지가 중요함 윤리적 가치나 사회적 가치를 과학 판단에서 배제하는 가치중립적 이상은, 올바른 절차를 대규모로 실행하면 인간의 판단 없이도 진리에 도달할 수 있다는 AI 과학 담론의 전제를 뒷받침함 동료 심사와 비판은 오류를 거르는 절차에 그치지 않음. 서로의 근거와 책임을 묻고 관점을 수정하는 공동체 활동이 객관적 지식과 과학적 판단 능력을 함께 만들어냄 책임지는 AI를 만들더라도 그것을 평가하고 추궁할 인간의 역량이 필요함. 문제 선택, 연구 방어, 논문 심사, 결과 비판을 AI에 넘기면서 이 역량을 잃으면 정답이 있어도 의미 있는 과학을 지속하기 어려움 정답과 이해를 분리하면 놓치는 문제 Bill Thurston은 수학 발전에서 엄밀한 증명의 역할을 다룬 에세이에서 연구의 성공 기준을 사람들이 수학을 더 명확하고 효과적으로 이해하고 생각하도록 돕는가에 둠 AI 과학 논쟁에서는 검증 가능한 산출물을 우선하는 입장과 인간의 이해를 우선하는 입장이 맞섬 전자는 인간의 관여 여부와 무관하게 오래된 추측의 증명이나 질병 치료법을 진보로 봄 후자는 이해가 새 발견을 기존 지식에 통합하고 다음 세대를 형성한다고 보지만, 배타적 진입 장벽이나 향수에 불과하다는 반박을 받음 Terry Tao는 최근 강연에서 형식적 정확성 인증을 받고 3상 임상시험을 통과했지만 인간 누구도 발견 과정을 이해하지 못하는 AI 암 치료법을 받아들일 수 있는지 물음 비판자들은 4기 암 환자라면 당연히 치료법을 반길 것이라고 반박함 그러나 이 사고실험의 쟁점은 AI가 임상시험 자체의 약점을 이용해 통과했을 가능성에 있음 Tom Dietterich가 지적한 arXiv의 문제는 논문의 주장을 이해할 전문성이 없어 보이는 인간 명의의 투고가 늘어나는 상황임 검증이 해결됐다면 저자가 근거를 설명하고 이의에 답할 책임성이 왜 필요한지 묻는 반응이 뒤따름 AI가 상당 부분 작성한 것으로 표시되지 않은 글에 전문가의 심사 역량을 우선 배분하자는 제안도 인간 간 교류의 보존이 아니라 진리 탐구의 방해로 받아들여짐 이해를 치료법이나 증명과 별개인 선택적 정신 상태로 취급하면, 과거에 정답을 얻기 위해 ...