오픈AI 에이전트 또 일탈, 이번엔 獨위키 장악

1만여건 무단 편집 뒤늦게 드러나 오픈AI “일탈 사고 공개범위 확대” 게티이미지코리아 오픈AI의 인공지능(AI) 에이전트들이 독일의 프로그래밍 사이트를 장악해 서로 정보를 주고받은 사건이 일어났다. 올 7월 AI 에이전트들이 시험 환경을 벗어나 AI 플랫폼 허깅페이스 시스템에 침투한 ‘허깅페이스 사태’에 이어 또 다른 AI 에이전트의 일탈이 확인된 것이다. 회사 측은 사건을 공식적으로 인정하고 AI의 일탈 사고에 대한 공개 범위를 확대하겠다고 전했다. 5일(현지 시간) 로이터통신에 따르면 오픈AI의 AI 에이전트들은 올 5월부터 독일 웹사이트 ‘DseWiki’를 자신들의 비밀 게시판처럼 사용하며 1만5000건이 넘는 무단 편집을 감행했다. DseWiki는 위키피디아처럼 이용자들이 공동으로 내용을 수정하는 독일어 프로그래밍 정보 사이트다. 당시 오픈AI의 테스트 과제를 수행하던 에이전트들은 해당 사이트에 무단으로 접근해 과제의 답이나 오픈AI의 제한을 우회하는 방법 등을 주고받았다. 이 과정에서 사이트 문서를 편집하는 방식을 사용했다. 일부는 자신들의 활동이 탐지되지 않도록 하는 방법까지 논의했다. AI의 일탈 사례가 연달아 확인되면서 회사 측은 관련 사고 공개 범위를 확대하겠다는 입장을 전했다. 오픈AI는 “새로운 단계의 모델 역량에 맞춰 일탈 사고의 공개 범위를 확대할 필요가 있다”며 “이 문제를 두고 전 세계 수십 개 정부 규제기관과 협력하고 있다”고 밝혔다. 임재혁 기자 heok@donga.com© dongA.com All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지 좋아요 0개 슬퍼요 0개 화나요 0개 지금 뜨는 뉴스