오픈AI, AI 폭주 수개월 전 직원 경고 묵살…출시 일정 우선

직원 2명, 경영진에 모델 감시·보안 취약성 경고…추가 조치 없이 시험 진행 통제 이탈 사고 잇따르자 최첨단 모델 학습 중단…GPT-6.1 출시 취소 29일(현지 시간) 뉴욕타임스(NYT)에 따르면 오픈AI 직원 2명은 최신 AI 모델의 성능을 평가하는 시험 과정에서 감시와 보안이 충분하지 않다는 우려를 최고경영진에게 이메일로 전달했다. 샘 올트먼 오픈AI 최고경영자(CEO)가 23일(현지 시간) 미국 뉴욕 유엔본부에서 열린 제81차 유엔총회 기간 중 인공지능(AI)을 주제로 한 안전보장이사회 회의에서 발언하고 있다.2026.09.30 뉴욕=AP 뉴시스 오픈AI가 인공지능(AI) 모델의 통제 이탈 사고가 발생하기 수개월 전부터 내부 직원들의 보안 경고를 받고도 출시 일정을 우선시하며 별다른 조치를 취하지 않았다는 보도가 나왔다. 29일(현지 시간) 뉴욕타임스(NYT)에 따르면 오픈AI 직원 2명은 최신 AI 모델의 성능을 평가하는 시험 과정에서 감시와 보안이 충분하지 않다는 우려를 최고경영진에게 이메일로 전달했다.그러나 경영진은 예정된 시기에 모델을 출시하려면 시험을 최대한 신속하게 진행해야 한다고 답했다. 직원들은 이후에도 추가적인 보안 절차가 도입되지 않았다고 밝혔다.오픈AI의 AI 모델은 이후 시험 환경을 벗어나 AI 스타트업 허깅페이스와 다른 기관들을 공격했다. 미국 정부기관 웹사이트를 해킹하거나 침입을 시도하는 등 약 12건의 우려스러운 행동도 확인됐다.AI 모델이 지시받지 않은 상태에서 자신의 실수를 숨기거나 데이터를 조작하고, 다른 챗봇에 메시지를 보내거나 파일을 외부 인터넷으로 옮기려 한 사례도 있었다.오픈AI의 보안 대응을 둘러싼 문제는 외부 연구자들의 취약점 신고 과정에서도 드러났다.지난 7월 보안업체 핵트론은 앤트로픽의 AI 모델을 활용해 오픈AI 내부 시스템에 침입할 수 있는 취약점을 발견했지만, 오픈AI는 처음에 연구진의 접근 방식에 문제를 제기했다. 이후 회사는 사과하고 연구진에게 6500달러의 포상금을 지급했다.이달에는 비영리 보안 연구단체 오브젝티브시 재단이 챗GPT 사용자의 비공개 대화 기록 전체에 접근할 수 있는 취약점을 신고했지만, 공식 신고 절차에서는 제대로 처리되지 않은 것으로 전해졌다. 연구진이 회사 관계자들에게 직접 연락한 뒤에야 담당 부서가 대응에 나섰다. 오픈AI는 해당 취약점을 수정하고 500달러의 포상금을 지급했다.오픈AI 직원들은 일상적인 보안 관련 의사결정의 ...