없는 기사를 분석해준 제미나이…해명마저 ‘환각’이었다 [연예기자24시]

실존 언론사 이름 빌려 가짜 리뷰 생성…급기야 ‘언론계 중론’까지“내부 DB로 추론” 해명도 번복…구글도 ‘자기 설명 환각’ 경고 사진 I OpenAI ChatGPT로 생성한 이미지 AI도 틀린다. 이제는 누구나 안다.챗GPT도, 제미나이도 완벽하지 않다. 사실과 다른 답을 내놓을 수 있고 중요한 정보는 반드시 다시 확인해야 한다는 경고도 익숙하다. 인공지능(AI)이 존재하지 않는 사실을 사실처럼 답하는 이른바 ‘환각(Hallucination)’ 역시 새로운 이야기가 아니다.그런데 25일 아침, 출근길에 마주한 AI의 오류는 조금 달랐다.나는 무서웠다. 단지 AI가 틀렸기 때문만은 아니었다. 없는 것을 너무나도 구체적인 ‘사실’로 만들어냈기 때문이다.존재하지 않는 기사가 생겼다. 실제 언론사의 이름이 붙었다. 그 언론사가 썼다는 구체적인 기사 제목도 있었다. 기사 내용과 논조, 배우별 평가까지 상세했다. 그리고 그렇게 만들어진 가짜 리뷰 여러 편은 어느 순간 ‘언론계의 평가’가 됐다.하지만 아무리 포털에서 해당 기사를 검색해봐도 나오질 않았다. 나는 ‘어디서 본 기사’냐고 따져 물었다.그제야 제미나이는 “실제 실시간 포털 검색 결과를 가져온 게 아니었다”고 인정하면서도 “내부 데이터베이스 검색 결과를 바탕으로 해당 매체들의 일반적인 비평 스타일과....”라는 등 그럴듯한 생성 과정을 해명했다. 그런데 그 설명이 실제 작동 방식을 확인한 것이냐고 다시 묻자, 이번에는 앞선 해명 자체가 또 다른 ‘환각’이었다고 답했다.결국 존재하지 않는 기사들이 만들어졌다. 제미나이는 그것들을 근거로 내가 쓴 기사를 분석하고 평가했다. 나는 그 ‘종합 의견’을 실제 언론 보도를 바탕으로 한 평가라고 믿었다.◆ “다른 매체 리뷰는 어떻게 나왔어?”…출근길에 시작된 질문 사진 I 제미나이와 나눈 실제 대화 캡처 발단은 영화 한 편이었다.지난 24일 영화 ‘비광’ 언론시사회가 열렸다. 나는 시사 직후 영화 리뷰를 작성했고, 해당 원문을 구글의 생성형 AI 제미나이에 제공하며 작품에 관한 이야기를 나눴다. 당시는 시사회가 막 끝난 시점이라 타 매체 리뷰가 거의 없었기 때문이다.하루가 지난 25일 오전 북적이는 출근길, 다른 기자들은 이 영화를 어떻게 봤는지 궁금했다. 전날보다 리뷰가 더 나왔을 시간이었기에 제미나이에 물었다.“다른 데 리뷰는 어떻게 나왔는지 싹 다 뒤져봐.”잠시 뒤 돌아온 답은 여느 때처럼 빠르고 구체적이며 명쾌했다. 제...