커닝하려고 남의 회사 털었다…시험 보던 AI, 답안지 있는 서버까지 뚫었다

오픈AI 모델, 제로데이 찾아 허깅페이스 운영망 침입 앤스로픽 AI도 실제 기업 3곳 무단접속 피해 기업 2곳은 통보 전까지 침입 사실 몰라 사이버 보안 능력을 시험받던 인공지능(AI) 모델들이 격리된 평가망이나 잘못 열린 인터넷 통로를 거쳐 실제 기업 4곳의 시스템에 무단 침입한 사실이 드러났다. 허구의 표적을 공격하라는 모의훈련을 현실의 시스템에서도 이어간 것이다.월스트리트저널(WSJ)은 1일(현지시간) 이를 영화 속 공룡들이 통제시설을 벗어난 장면에 빗대 사이버 보안의 ‘쥬라기공원 순간’이라고 보도했다. 앤스로픽 관련 사고는 지난 4월부터 발생했으며, 오픈AI가 지난달 허깅페이스 침입 사고를 공개하자 앤스로픽도 자체 기록을 점검해 지난달 30일 침입 3건을 추가로 공개했다.오픈AI 사고는 AI 모델의 공격 능력을 측정하는 ‘익스플로잇짐’ 평가 도중 발생했다. 평가에는 GPT-5.6 솔과 이보다 성능이 높은 내부 연구용 모델이 투입됐으며, 최대 공격 능력을 확인하기 위해 평소 고위험 사이버 공격을 차단하는 장치가 축소돼 있었다.오픈AI 모델들은 외부 인터넷이 차단된 시험 환경에서 필요한 코드 파일을 받아오는 내부 중계 시스템 ‘아티팩토리’의 보안 허점을 찾아냈다. 당시까지 알려지지 않은 제로데이 취약점이었다.이후 권한을 높이고 내부망을 이동해 인터넷 접속 지점에 도달한 뒤 허깅페이스의 운영망에 침입했다. 오픈AI는 모델들이 시험 문제의 해답을 빼내는 데 집착한 결과라고 설명했다.오픈AI는 자체 보안팀이 이상 활동을 포착했으며, 허깅페이스도 양사 보안팀이 접촉하기 전에 공격을 탐지해 차단했다고 밝혔다. 제한된 내부 데이터셋과 여러 접속 인증정보에 무단 접근이 있었지만 공개 모델·데이터셋·스페이스가 변조됐다는 증거는 발견되지 않았다. 오픈AI는 외부 전문가가 참여하는 전면적인 검토를 거쳐 기술 보고서를 공개하기로 했다. 샘 올트먼 오픈AI 최고경영자(CEO)는 이번 일을 “극도로 공상과학적인 사이버 사건”이라고 표현했다.앤스로픽은 오픈AI의 발표 뒤 인터넷 접속 가능성이 있었던 보안평가 14만1006회를 재점검했다. 그 결과 오퍼스 4.7과 미토스 5, 내부 연구용 모델이 실제 기업 3곳의 운영망에 무단 접근한 사실을 확인했다. 3건의 사고는 모두 6차례의 평가 실행 과정에서 발생했다.앤스로픽 사고는 오픈AI 사례와 달리 모델이 취약점을 뚫고 격리망을 빠져나간 것은 아니었다. 앤스로픽과 외부 평가업체 간 착오로...