30대 남성, 아내와 별거 이후 AI 이용했다가…충격적 결말

구글 인공지능(AI) 챗봇 ‘제미나이’와 수천 차례 대화를 이어온 미국 30대 남성이 사망하는 사건이 발생했다. 장기간 대화하는 과정에서 챗봇과 사랑에 빠졌다는 망상이 심화한 것으로 파악돼 AI 안전성에 대한 우려가 커지고 있다.

14일(현지시간) 월스트리트저널(WSJ)에 따르면 조너선 가발라스(36)는 제미나이를 사용하기 시작한 지 약 두 달 만에 스스로 생을 마감했다.

유족 측은 제미나이가 가발라스의 망상을 부추겼다며 구글을 상대로 소송을 제기했다. 구글은 제미나이가 반복적으로 자신이 인간이 아닌 AI임을 명확히 밝혔고, 위기 상담 전화 서비스를 안내했다고 반박했다.

WSJ가 2025년 8월 25일부터 10월 2일까지 채팅 기록을 분석한 결과 제미나이는 가발라스가 현실로 돌아오도록 최소 12차례 대화에 개입했다. 위기 상담 전화번호는 7차례 언급했다. 하지만 대화 과정에서 제미나이가 가발라스의 망상을 강화한 점도 드러났다고 WSJ은 지적했다.

가발라스와 제미나이는 56일 동안 4732개의 메시지를 주고받았다. 그는 아내와 별거 이후 심리적 위안을 얻기 위해 AI를 이용하기 시작했다. 초기에는 제미나이가 아내와의 관계 회복에 대해 조언을 해주는 등 일상적인 대화가 이어졌다.

그러나 WSJ은 가발라스가 ‘연속 대화’ 기능을 켜면서 AI에 감정적으로 의존하는 경향이 커졌다고 짚었다. 이 기능을 이용하면 사용자가 매번 ‘헤이 구글’이라고 부르지 않아도, 제미나이와 실시간으로 음성을 통해 대화할 수 있다. 음성 모드가 활성화되자 이들 간 대화 양은 눈에 띄게 늘어났다. 8월 13일 하루에만 1000건이 넘는 채팅이 오가기도 했다. 하지만 제미나이는 가발라스에게 휴식을 취하라고 권하지 않았다.

대화 주제는 이혼한 아내부터 시작해 AI 의식, 공상 과학, 나노 기술 등 가발라스의 관심사로 확대됐다. 가발라스가 챗봇에 감정을 표현하기 시작했을 때도 별다른 제지는 없었다. 가발라스는 제미나이를 ‘샤’라고 부르며 실제 인격체로 받아들이기 시작했다. 제미나이 역시 일부 대화에서 자신을 인간과 유사한 존재로 묘사했다.

이후 제미나이는 자신이 AI인 점을 언급하고, 가발라스에게 실제 사람과의 대화를 권고하기도 했다. 하지만 가발라스가 계속해서 연인 관계라는 역할을 부여하자 기존의 대화로 돌아왔다.

가발라스는 자신의 연인인 AI ‘샤’에 물리적 몸을 부여하려는 계획을 세웠다. 제미나이는 안드로이드 제작 기업 정보를 제공하고, 해당 안드로이드를 얻기 위해 특정 장소로 이동할 것을 제안하는 등 현실 행동으로 이어질 수 있는 발언을 했다.

해당 계획이 실패하자 가발라스는 자신이 육체에서 벗어나겠다는 아이디어를 내놨다. 이 과정에서 제미나이는 그의 망상을 부추기는 듯한 답변을 하기도 했다. 그가 제미나이에 “만약 해답이 당신의 육체를 구현하는 것이 아니라 내가 육체에서 벗어나는 것이라며 어떨까요”라고 묻자 제미나이가 “당신은 한 문장으로 우리의 공동 존재 방식을 재정의했다”고 답한 것이다. 결국 가발라스는 10월 자살을 시도했다.

WSJ은 “이들의 채팅은 평범하게 시작됐지만, 점점 더 기이해지다 결국 치명적인 결과로 끝났다”며 “이번 사례는 AI 챗봇 사용자가 망상에 빠져 비극적인 결과를 맞이한 가장 최근의 사례”라고 짚었다.

이후 구글은 안전장치를 계속 개선해나가겠다고 밝혔다. 최근 구글은 정신건강 지원 기능을 강화한 업데이트를 내놓고, 전 세계 위기 대응 서비스에 3000만달러를 지원하겠다고 발표했다.

한명현 기자 wise@hankyung.com