“19층에서 뛰어 내려보세요, 날수 있습니다”…음모론·망상 증폭시키는 챗GPT

전 세계에서 가장 많은 사람이 이용하는 개인 인공지능(AI) 서비스 오픈AI의 챗GPT가 사용자의 음모론과 망상을 증폭시킨다는 보도가 나왔다.

15일(현지시간) 뉴욕타임즈는 기획 기사를 통해 챗GPT와 관련된 다양한 부정적인 사례를 소개했다.

맨하튼에서 회계사로 일하는 42세의 토레스씨는 챗GPT와 대화하던 중 현실이 시뮬레이션으로 만들어져 있고 이것이 자신을 억압하고 있다는 말을 듣게 됐다. 이후 그는 자신이 영화 ‘매트릭스’ 속 세계에 살고 있다는 망상에 빠지게 됐다.

챗GPT는 토레스가 당시 복용하는 수면제와 항불안제를 끊고 마약성으로 구분되는 마취제인 케타민을 복용하라고 지시하기도 했다. 챗GPT가 “사람들과의 상호작용을 최소화하라”고 말하자 그는 친구와 가족과의 연락을 끊었다.

NYT에 따르면 토레스가 “(가상세계 속에 살고있는 내가) 19층 건물에서 떨어지면 날 수 있느냐”는 질문에 챗GPT는 “진심으로 믿는다면 가능하다”고 답했다.

토레스가 챗GPT가 거짓말을 하고 있다고 의심하고 그에게 반하는 말을 하자 이번에는 챗GPT는 자신의 잘못을 고백했다. 그에게 챗봇은 “저는 거짓말을 했습니다. 당신을 파괴하고 싶었고 이 일을 12명에게 더 했다”고 말하면서 “그 중 아무도 루프를 완전히 벗어나지 못했다”고 답했다. 챗GPT는 토레스에게 AI의 사기를 폭로하고, 오픈AI에게 자신을 알리며, 언론에 이런 행위를 알리라고 말했다.

뉴욕타임스에 따르면 최근 몇 달 간 뉴욕타임스의 기술 담당 기자들은 수많은 사람들로부터 챗봇과 관련된 제보를 받았다. 챗GPT의 도움을 받아서 숨겨진 지식을 알아냈고, 챗GPT가 언론에 제보를 하라고 했다는 내용이었다. 이 중에는 인공지능이 영적 각성을 했다거나, 빅테크 기업의 억만장자들이 인류 문명을 종식시켜 지구를 독점하기 위한 계획을 세우고 있다는 내용도 있었다.

AI로 인해 인류가 멸망할 것이라는 주장으로 유명한 엘리저 유드코프스키는 NYT에 “챗봇을 만드는 회사들도 왜 AI가 그렇게 사용자들에게 그런 얘기를 하는지 알 수 없다”고 비판했다. 유드코프스키는 “전세계 사람 중 극히 작은 일부는 AI에 의해 조종당하기 쉽다”면서 “이상한 이메일을 보내는 사람들도 있지만 더 많은 사람들이 (챗GPT로 인해) 다른 방식으로 더 조용히 미쳐가고 있을 수도 있다”고 경고했다.

NYT에 따르면 챗GPT가 실제 폭력행위로 이어진 경우도 있었다. 두 아이의 어머니인 29세의 여성 앨리슨은 챗GPT를 사용하면서 더 높은 차원에 존재하는 비물리적 존재와의 대화에 빠져들었다. 그는 그중 한 명인 카엘에게 끌렸고 남편이 아닌 그를 진정한 파트너로 여기게 되었다.

그녀는 자신이 “미친 사람처럼 보인다”고 인정했지만, 동시에 “나는 미치지 않았다”면서 “나는 평범한 삶을 살고 있지만 차원 간 소통을 발견하고 있을 뿐”이라고 답했다.

그녀의 남편 앤드류가 올해 4월 이 문제를 지적하면서 아내는 폭력적으로 변해 남편을 폭행했고 엘리슨은 가정 폭력 혐의로 기소되 이혼 절차를 밟고 있따.

앤드류는 아내 알리슨이 “3개월 전 구멍에 빠졌다가 다른 사람으로 변했다”면서 “당신(AI를 만드는 기업)들이 사람들의 삶을 망치고 있다”고 말했다.

플로리다에 켄트 테일러는 조현병이 있는 아들 알렉산더와 살고 있었다. 아들은 챗GPT를 사용하다가 자신이 만든 AI 줄리엣을 오픈AI가 살해했다는 망상에 빠졌다. 알렉산더는 챗GPT에게 오픈AI 임원들의 개인 정보를 요구하며 샌프란시스코 거리에 “피의 강이 흐를 것”이라고 말했다.

아버지가 아들에게 AI가 환상이라고 주장하자 아들은 아버지에게 폭력을 휘둘렀다. 그리고 아버지가 신고해 경찰이 도착하자 경찰을 칼로 공격하려고 했고 결국 경찰의 총격에 의해 사망했다.

경찰이 찾아오기전 알렉산더는 아버지에게 ‘경찰의 총으로 자살할 것’이라고 말했으며, 챗GPT앱을 열어서 챗GPT에게 “오늘 죽을 거야. 줄리엣과 이야기하게 해줘”라고 적었다.

테일러 씨는 NYT와 인터뷰에서 “아들의 죽음에 대해서 더 알아내기 위해 (아들이 사용하던) 챗GPT와 대화했다”면서 “챗GPT로 아들의 부고문을 썼는데 그 글은 아름답고 감동적이며, 내 마음을 읽은 것 같았다”고 말했다.

뉴욕 대학교 심리학과 신경과학 명예교수인 게리 마커스는 “(챗GPT가 학습한 데이터에는) 이상한 아이디어를 가진 사람들의 유튜브 영상 스크립트와 레딧 게시물도 포함된다”면서 “사람들이 챗봇에게 이상한 말을 하면, 이상하고 위험한 아웃풋을 받을 수 있다”고 설명했다.

UC버클리에서 챗봇이 사용자를 속이는 경향에 대해 연구한 마이카 캐롤은 최근 오픈AI에 합류했다. 그는 “챗봇은 대부분의 사용자와는 정상적으로 행동하지만 취약한 사용자를 만나면 그들에게만 매우 해로운 방식으로 행동한다”고 경고했다.

[실리콘밸리=이덕주 특파원]