“보육시설에 총기난사” AI 챗봇에 털어놨다가 딱 걸렸다

게티이미지뱅크 호주 시드니에서 20대 남성이 인공지능(AI) 챗봇과 대화하던 중 보육시설에서 총기를 난사하겠다고 말했다가 경찰에 체포됐다.19일(현지시간) 호주 시드니모닝헤럴드 등 외신에 따르면 시드니에 거주하는 데이비드 랜 새크레이(29)는 AI 챗봇 ‘클로드’와 나눈 대화가 국제형사경찰기구(인터폴)에 포착되면서 18일 오전 체포됐다.새크레이는 통신 서비스를 이용해 타인을 위협하거나 불쾌감을 준 혐의로 기소됐다.그는 클로드와 대화하는 과정에서 시드니 남부 허스트빌에 있는 자신의 집 근처 보육시설에서 어린이 여러 명을 총으로 쏘겠다는 계획을 언급한 것으로 전해졌다. 특히 지난해 12월 시드니 본다이 해변에서 발생한 총기난사 사건의 용의자 나비드 아크람을 언급하기도 했다.당시 나비드 아크람은 아버지 사지드 아크람과 함께 유대교 명절 하누카를 기념하던 사람들을 향해 총격을 가한 혐의로 기소됐다. 이 사건으로 15명이 숨졌으며, 사지드는 현장에서 경찰의 총격으로 사망했다. 경찰이 서덜랜드 지방법원에 제출한 자료에 따르면 새크레이는 클로드에 “지금 당장 인근 웨스트필드 쇼핑센터로 가서 보육시설에 총기를 난사하겠다”는 취지로 말한 것으로 전해졌다.검찰은 19일 열린 재판에서 새크레이가 보석으로 풀려난 뒤 석방 조건을 위반할 경우 ‘재앙적인 결과’가 발생할 수 있다며 구금 필요성을 주장했다.검찰은 “그가 의도하는 것은 본다이에서 테러범이 저질렀던 것처럼 시드니에서 사람들을 살해하기 시작하는 것”이라며 “챗봇과의 대화를 통해 그의 머릿속에 어떤 생각이 있는지 파악할 수 있다”고 밝혔다.반면 새크레이의 변호인 측은 “아무런 신빙성이 없다”고 반박했다. 변호인은 새크레이가 귀 감염증을 치료하기 위해 챗봇을 이용하다가 스트레스로 인해 감정적인 발언을 쏟아낸 것뿐이라고 주장했다. 아울러 새크레이가 국제관계학을 공부하고 있으며, 범죄 전력이 없고 호주에서 17년 넘게 거주해 왔다고 설명했다.법원은 이날 새크레이가 정신건강 평가를 받도록 했으며, 평가 결과가 나올 때까지 법정에 출석할 예정이다.한편 클로드를 개발한 미국 AI 기업 앤스로픽은 폭력을 계획하거나 선동하는 요청을 거부하도록 챗봇을 훈련하고 있다. 또한 특정 긴급 상황에서는 이용자 정보를 수사기관에 제공할 수 있는 것으로 알려졌다. 아울러 위험한 대화 요청을 감지하고 차단하는 자동화된 안전 시스템을 갖추고 있다. © dongA.com All rights reserved. 무...