Anthropic, Claude를 일기처럼 쓰던 이용자의 총격 위협 신고…여성 체포

미국 플로리다에서 Claude를 일기장처럼 사용하던 여성이 보안관 사무실에 총격을 가하겠다는 내용을 입력한 뒤, Anthropic의 신고로 체포됨 체포 보고서에 따르면 여성은 9월 26일 총격 위협을 작성하고, 다음 날 새 총을 구했다고도 입력함. 이후 경찰에 AI를 일기처럼 사용한다고 설명함 Claude의 안전 시스템이 내용을 탐지해 사람 검토팀에 전달했으며, 검토팀이 실제 위협으로 판단해 법 집행기관에 신고함 Anthropic은 사망이나 심각한 신체적 상해를 막기 위한 제한적인 긴급 상황에서 사용자 정보를 법 집행기관에 공개할 수 있다고 명시함 여성은 서면 폭력 위협 혐의를 받으며, 적용 법률은 이를 2급 중범죄로 규정함. 챗봇에 남긴 기록은 본인만 읽는 개인 일기와 달리 서비스 운영자의 검토와 신고로 이어질 수 있음 Claude 기록 탐지부터 경찰 수사까지 체포 보고서에 따르면, 플로리다 Bonita Springs에 거주하는 Carli Michelle Heller는 9월 26일 보안관 사무실을 공격하겠다는 내용을 작성한 혐의를 받음 이후 Heller는 Anthropic의 챗봇을 일기장처럼 사용한다고 말함 Claude 안전 시스템이 해당 기록을 탐지해 사람 검토자에게 넘겼고, 검토자는 실제 위협이라고 판단해 법 집행기관에 신고함 Anthropic은 사망이나 심각한 신체적 상해를 예방하는 데 필요하다고 판단하는 제한적인 긴급 상황에서 사용자 정보를 공유할 수 있다고 밝힘 보안관실 소속 경찰관들은 Heller의 신원을 확인하고 자택을 방문해 별다른 충돌 없이 신병을 확보했으며, 이후 LCSO 정보 담당 형사가 수사를 넘겨받음 Heller는 플로리다법에 따라 서면 폭력 위협 혐의를 받음 Florida Statute 836.10은 살해나 상해, 대규모 총격, 테러를 위협하는 서면 또는 전자 기록의 발송, 게시, 전송을 2급 중범죄로 규정함 해당 전달 행위는 다른 사람이 그 내용을 볼 수 있는 방식으로 이뤄져야 함 위협 신고를 둘러싼 소송과 챗봇의 사생활 한계 지난달 캐나다 브리티시컬럼비아주는 OpenAI가 대규모 총격 사건을 예방할 수 있었다고 주장하며 OpenAI와 Sam Altman을 상대로 소송을 제기함 총격범인 18세 전 재학생 Jesse Van Rootselaar는 총기 폭력 관련 대화로 OpenAI 안전팀에 이미 탐지된 상태였음 OpenAI는 해당 대화가 법 집행기관에 신고할 기준에 미치지 못한다고 판단...