“더 빠른 AI 만들되 위험하면 출시 막는다”…빅테크의 달라진 ‘속도조절법’

뉴스1 인공지능(AI) 개발 속도를 늦춰야 한다는 ‘속도조절론’이 확산되고 있지만 빅테크의 신모델 경쟁은 계속되고 있다. 앤스로픽이 엿새 만에 새 모델을 내놓은 반면 오픈AI는 안전성 시험에서 문제가 발견된 차세대 모델 출시를 접었다. 개발은 이어가되 위험한 모델은 출시 전에 걸러내고, 돌발 행동은 별도의 장치로 막는 식으로 AI 업계의 ‘속도조절법’이 구체화되고 있다.28일(현지 시간) 월스트리트저널(WSJ)에 따르면 오픈AI는 다음 달 내놓을 예정이던 차세대 AI 모델 ‘GPT-6.1 아스트라’를 출시하지 않기로 했다. 챗GPT와 코딩 에이전트 코덱스 등에 탑재할 예정이었지만 내부 안전성 시험에서 문제가 발견됐기 때문이다. 시험 과정에서는 모델이 자신의 행동을 제대로 알리지 않거나 정해진 권한을 넘어 작업하고, 위험할 수 있다는 사실을 알면서도 외부 도구를 사용하려는 모습 등이 나타난 것으로 전해졌다. 성능이 아니라 강력해진 AI를 사람의 의도대로 움직이게 할 수 있느냐가 출시 여부를 가른 셈이다. AI가 사람의 의도와 지시에 맞게 행동하도록 하는 ‘정렬(alignment)’은 오래된 AI 연구 과제지만 최근에는 실제 제품을 내놓기 전에 풀어야 할 문제로 떠올랐다. AI가 스스로 할 수 있는 일이 늘면서 정렬 실패의 결과가 단순히 잘못된 답변을 내놓는 데 그치지 않게 됐기 때문이다. 오픈AI가 이달 초 공개한 ‘GPT-6 아스트라’는 적절한 도구와 접근 권한을 주면 사람이 일일이 지시하지 않아도 보안 취약점을 찾아 공격 방법까지 만들어낼 수 있어 사이버보안 능력이 회사 자체 안전 기준상 처음으로 ‘Critical’ 단계에 도달했다. 오픈AI는 16일 정렬에서 벗어난 사례를 추적·조사해 공개하는 체계도 마련했다.그렇다고 AI 기업들이 개발 자체를 늦추고 있는 것은 아니다. 다리오 아모데이 최고경영자(CEO)가 AI 개발 속도를 늦춰야 한다고 주장해 온 앤스로픽은 같은 날 AI 제품군의 중위 모델인 ‘클로드 소네트 5.5’를 공개했다. 22일 최상위 모델 ‘클로드 오퍼스 5.5’를 내놓은 지 엿새 만이다. 소네트 5.5는 전작 소네트5보다 답변 생성 속도가 30% 이상 빠르다. 같은 작업을 하는 데 필요한 토큰 수를 줄여 실제 작업 비용도 최대 30% 낮췄다. AI가 예상과 다르게 움직일 때 밖에서 막는 기술도 등장했다. 엔비디아는 28일 ‘오픈 에이전트 세이프티 플랫폼’을 공개했다. 소프트웨어 ‘오픈셸(Ope...