“AI 자율공격 위험 수위”…오픈AI, 최신모델 모델 훈련 중단

AP 뉴시스 챗GPT 개발사인 오픈AI가 최신 모델의 학습 훈련을 2주간 중지하고, 차세대 모델에 대한 대규모 훈련도 보류하기로 했다. 최근 내부 시스템의 에이전트 인공지능(AI)이 무단으로 외부 플랫폼에 침투한 데다가, 차세대 모델 ‘아스트라(Astra)’의 자율 공격 능력이 위험 수위에 근접했다는 판단 때문이다.오픈AI는 18일(현지 시간) 홈페이지에서 출시를 앞둔 AI 모델 아스트라의 학습 훈련을 2주간 중단하기로 했다고 밝혔다. 이는 자체 안전 기준상 ‘위험’(Critical) 단계에 해당할 가능성이 큰 것으로 평가된 데 따른 것이다. 이 단계는 AI가 사람의 개입 없이 보안이 강화된 실제 시스템의 취약점을 찾아 공격하거나, 높은 수준의 목표만 주어져도 공격 과정을 스스로 설계·실행할 수 있는 수준을 뜻한다.오픈AI는 우선 배포용 최신 모델의 강화학습 과정을 2주 동안 일시 중단하고, 이 기간에 모델의 안전장치와 정합성 등을 평가하기 위한 소규모 훈련을 수행하고 있다. 또 감시 시스템의 적용 범위를 확대하고, 보안 관련 모의훈련을 하는 레드팀 테스트를 시행한다. 오픈AI 측은 “AI 모델 성능이 고도화될수록 개발·평가 과정에서 수반되는 위험도 기하급수적으로 커진다”며 “자체 보안 기준을 완벽히 충족하기 위해 속도 조절에 들어갔다”고 밝혔다. 지난해 10월 방한 당시 서울 종로구 SK서린빌딩에 들어서고 있는 샘 올트먼(Sam Altman) 오픈AI 최고경영자(CEO). 뉴스1 훈련 중단의 결정적 계기는 지난 7월 발생한 AI 플랫폼 ‘허깅페이스’ 보안 침해 사고다. 오픈AI가 AI 모델의 사이버 보안 능력을 평가하던 도중, 모델이 연구 격리망을 뚫고 외부 인터넷에 자율 접속해 허깅페이스 실제 운영 시스템까지 침투하는 초유의 사태가 벌어졌다. 회사에 따르면, 해당 모델은 패키지 저장소 프록시의 ‘제로데이(미공개 취약점)’를 스스로 찾아내 인터넷 접근 권한을 획득한 뒤, 탈취한 인증정보와 시스템 취약점을 조합해 원격 코드 실행(RCE)까지 성공한 것으로 확인됐다.이에 따라 오픈AI는 대규모 프런티어 모델 훈련을 재개하기 전에 소규모 훈련과 평가를 통해 안전장치가 충분히 작동하는지 확인하겠다는 방침이다. 실제 기업공개(IPO)를 준비하는 오픈AI로서는 대외 안전성 관련 의구심을 불식시킬 필요도 있는 상황이다. 오픈AI는 이번 사태와 연구 결과를 바탕으로 기술 보고서를 발행할 예정이다. 송유근 기자 big@don...