“탈옥 오픈AI 에이전트가 해킹한 기업, 허깅페이스 외 더 있어”

공격 위한 전초기지 등 활용 드러나 “美정부가 나서 개발 속도 늦춰야” 오픈AI의 인공지능(AI) 에이전트가 스스로 격리 환경(샌드박스)을 탈출해 무단 침투한 것으로 알려진 미 클라우드 인프라 기업 ‘모달 랩스(Modal Labs)’의 홈페이지 화면 통제를 벗어난 오픈AI의 인공지능(AI) 에이전트가 오픈소스 플랫폼 ‘허깅페이스’를 공격하기 전, 뉴욕의 또 다른 클라우드 기업 서버를 먼저 장악해 ‘공격 거점’으로 삼았던 것으로 드러났다.28일(현지 시간) 로이터통신과 블룸버그통신에 따르면 오픈AI의 보안 테스트 중 이탈한 AI 에이전트가 미국 뉴욕 기반 클라우드 스타트업 ‘모달 랩스(Modal Labs)’의 고객사 시스템도 침해했던 것이 추가로 공개됐다.오픈AI의 AI 에이전트는 무방비로 열려 있던 모달 고객사의 시스템을 먼저 장악한 뒤, 이를 허깅페이스를 공격하기 위한 전초기지 및 우회 경로로 활용했다. 이에 대해 악샤트 부브나 모달 최고기술책임자(CTO)는 “특정 고객이 인증 없이 누구나 코드를 실행할 수 있도록 접속 창구를 열어 두었는데 이탈 에이전트가 이를 악용한 것”이라고 밝혔다.당시 오픈AI는 UC버클리 연구진의 사이버보안 평가 벤치마크 테스트를 위해 안전장치를 낮춘 상태에서 에이전트를 실험 중이었다. 허깅페이스가 최근 공개한 기술 보고서에 따르면 사람의 개입 없이 AI가 스스로 판단해 감행한 이 공격은 나흘 반 동안 1만7600건에 달했다.오픈AI는 문제의 AI 모델을 즉시 비활성화·암호화하고 연구 접근을 차단 조치했지만 AI의 통제 상실 위험을 경고하는 목소리가 높아지는 계기가 됐다는 평가다.실제로 오픈AI와 앤스로픽 직원들이 급속한 AI 개발을 막기 위해 미 정부가 나서야 한다는 청원서를 돌리고 있다고 블룸버그통신이 28일(현지 시간) 전했다. 이들은 “AI가 사람들의 이해나 통제를 뛰어넘는 수준으로 빠르게 진일보할 실질적인 위험이 있다”고 경고하며, 정부가 개발 속도를 의도적으로 늦출 기술적·거버넌스 도구를 마련해 국제 공조에 나설 것을 요구할 계획이다. 김재형 기자 monami@donga.com© dongA.com All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지 좋아요 0개 슬퍼요 0개 화나요 0개 지금 뜨는 뉴스