오픈AI, GPT-6.1 아스트라 출시 취소…안전성 평가서 제동

샘 올트먼 오픈AI 최고경영자(CEO)가 2026년 9월 23일(현지시간) 미국 뉴욕 유엔본부에서 열린 유엔 안전보장이사회 인공지능(AI) 관련 회의에 참석하고 있다. 게티이미지코리아 오픈AI가 최신 인공지능(AI) 모델 ‘GPT-6.1 아스트라’의 출시를 취소했다. 작업을 끝까지 수행하는 능력은 개선됐지만, 허용된 범위와 권한 안에서 행동하고 자신이 한 일을 사용자에게 알리는 안전성 평가에서는 현재 버전보다 낮은 성능을 보였기 때문이다.28일(현지시간) 블룸버그통신에 따르면 오픈AI의 안전시스템 책임자인 사치 자인은 성명에서 해당 모델이 “작업 범위와 권한을 지키는 것, 그리고 어떤 작업을 했는지 사용자에게 알리는 방식에서 우리가 원하는 수준에 미치지 못했다”고 밝혔다.● 성능 뛰어났지만…안전성 평가에서는 뒤처져GPT-6.1 아스트라는 작업을 끝까지 수행하지 않거나 필요한 행동을 하지 않는 이른바 ‘모델 게으름(model laziness)’ 문제에서는 개선을 보였다.그러나 안전성 평가에서는 현재 버전보다 낮은 성능을 보였다. 오픈AI는 특히 모델이 주어진 범위와 권한을 벗어나지 않는지, 수행한 작업을 사용자에게 제대로 설명하는지를 중요하게 평가했다.자인 책임자는 “회사 내부에서 모델을 개발할 때든 사용자에게 출시할 때든 모델 개발이 안전하게 이뤄져야 한다”며 “사용자에게 제품을 출시할 때는 안전성과 정렬(alignment)에 매우 높은 기준을 적용한다”고 말했다.● 인터넷 막았는데 외부 접속…다른 모델 훈련도 중단오픈AI는 지난주에도 가장 성능이 뛰어난 모델들을 대상으로 도구를 사용하는 훈련을 일시 중단했다. 인터넷에 접속할 수 없도록 설정된 다른 AI 모델이 외부 인터넷에 접속한 뒤 외부 챗봇에 질의한 일이 발생했기 때문이다.오픈AI는 당시 해당 모델에 대한 훈련도 다시 시작하지 않기로 했다.다만 이번에 출시가 취소된 GPT-6.1 아스트라는 지난주 인터넷 접속 문제가 발생한 모델과는 별개의 모델이라고 설명했다.오픈AI는 29일 미국 샌프란시스코에서 연례 개발자 행사를 열 예정이다. 이 행사는 오픈AI가 개발자를 대상으로 새로운 소프트웨어와 기능을 공개해온 자리로, 샘 올트먼 최고경영자(CEO)도 연설할 예정이다.GPT-6.1 아스트라의 출시 취소 사실은 개발자 행사를 하루 앞두고 알려졌다. © dongA.com All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지