“中 선박에 핵 관련 물건” AI 잘못된 답변에…美- 中 전쟁 날 뻔했다

국제 > 글로벌 산업 “中 선박에 핵 관련 물건” AI 잘못된 답변에…美- 中 전쟁 날 뻔했다 CNN “군사 작전 직전에 AI 오류 확인”AI ‘中선박 화물, 핵무기 프로그램 연관’ 오판무장병력 승선 준비·군용기 출격 직전 철수미군, AI 활용 확대·공격 표적 선정에도 활용서로 다른 AI 도구 쓰고, 정보 검증 기준 부실최근 오픈AI도 AI 일탈사례 상세하게 공개AI가 사용자의 통제를 벗어난 것은 물론인간을 속이려는 시도까지 감행 하기도 해AI 기업 주장‘속도 조절론’에 힘 실릴 지 관심 미국 국방부 청사. AP연합뉴스 최근 인공지능(AI)이 사용자의 통제를 벗어난 것은 물론 인간을 속이려는 시도까지 감행한 사실이 속속 드러나고 있다. 이에 주요 AI 기업들은 ‘AI 속도 조절론’까지 꺼내 들며 경고를 보내고 있는 형국이다.지난 17일(한국시간) 오픈AI는 그동안 공개되지 않았던 자사 인공지능(AI)의 일탈 사례 여섯 건을 상세히 공개했다. AI가 사용자의 통제를 벗어난 것은 물론 인간을 속이려는 시도까지 감행한 사실이 담겼다.그리고 19일에는 AI가 만들어낸 거짓 정보로 자칫 미국이 중국을 상대로 군사작전까지 했던 아찔한 상황이 전해졌다.CNN은 “이란전이 진행 중이던 올해 봄 미군 내부에서는 중동에 있던 중국 선박 한 척이 핵무기 프로그램 관련 구성 요소를 수송하고 있다는 내용의 정보 보고서가 회람됐다”며 “당시 미군은 즉각 해당 선박을 차단하기 위한 작전 준비에 들어갔다”고 전했다. 이어 “이에 따라 무장한 미군 병력이 선박에 오를 준비를 했고 군용기까지 출격한 상태였다고 복수의 소식통이 전했다”고 덧붙였다.다행히 작전 실행 직전 보고서를 추가 검토하는 과정에서 해당 보고서가 특수작전사령부 분석관이 AI의 도움을 받아 작성했고, 분석관이 사용한 챗봇이 선박에 실려 있던 화물을 잘못 식별했다는 사실이 드러났다. 한 소식통은 해당 보고서가 “전적으로 거짓이었다”며 “거의 전쟁이 시작될 뻔했다”고 긴박했던 상황을 설명했다. AI가 만들어낸 거짓 정보로 자칫 미국이 중국을 상대로 군사작전까지 했던 아찔한 상황이 있었다고 전했다. CHATGPT로 만든 이미지 어떻게 이런 일이 발생했을까.가장 먼저 한 분석관이 미 태평양 특수작전사령부에서 나온 중국 선박의 화물 목록 관련 정보를 챗봇에 질의하면서 시작됐다.이에 챗봇은 공개 정보와 미 정부가 보유한 기밀 신호 정보를 통합 분석한 끝에 해당 선박의 화물이 핵무기 ...