"핵무기급 AI 봉인 풀리나"…인류 '미토스' 패닉에 빠지다

앤스로픽의 첨단 인공지능(AI) 모델 미토스(Mythos)가 글로벌 사이버보안 업계를 뒤흔들고 있다. 미토스는 개인에게도 막강한 사이버보안 공격 수단을 부여하는 ‘비대칭 무기’로 평가된다. 각국이 분주하게 미토스 대응 방안을 마련하는 가운데 미국 역시 그 여파로 비(非)규제 정책을 포기하고 사전 규제로 전환하고 있다.

◇ 트럼프 행정부도 AI 규제

뉴욕타임즈(NYT) 등에 따르면 도널드 트럼프 미국 행정부는 테크 기업 경영진과 정부 관료가 참여하는 AI 실무 단체를 구성하기 위해 행정명령을 준비하고 있다. 이 단체는 신규 AI 모델 안정성과 활용 가능성을 사전 검열하는 역할을 한다. 재집권 초 AI 모델 안전성 평가 규제를 철회한 트럼프 대통령이 기조를 바꾼 것이다.

규제 도입 논의가 급물살을 탄 것은 지난달 앤스로픽이 제한적으로 공개한 AI 모델 미토스의 여파다. 미토스가 소프트웨어 보안 취약점을 찾아낼 수 있어 사이버보안 판도를 바꿀 것이라는 우려가 확산되면서다.

다리오 아모데이 앤스로픽 최고경영자(CEO)는 지난 5일 한 행사에서 “중국의 AI모델은 미토스와 비교해 6개월에서 12개월 정도 뒤처졌다”라며 “그 기간 안에 미토스가 찾아낸 문제를 해결해야 한다”고 강조했다. 그는 “취약점과 침해 건수가 늘어나고 학교, 병원, 은행 등 여러 기관에 대한 공격으로 재정적 피해가 커질 수 있는 것이 큰 위협”이라고 경고했다.

◇ 어린아이도 전력망 마비 가능

미토스는 현재까지 개발된 가장 강력한 AI 모델로 평가된다. 주요 운영체제(OS)와 웹브라우저에서 알려지지 않은 보안 결함인 ‘제로데이’ 수천 개를 찾아냈고, 전 세계 대부분의 서버를 구동하는 ‘리눅스 커널’에서도 시스템을 완전히 장악할 수 있는 취약점을 발견했다. 해커들의 전유물이던 사이버 공격을 누구나 손쉽게 할 수 있는 시대가 열린 것이다.

미토스에 대한 우려는 ‘통제 불가능성’에서 나온다. 테스트 과정에서 미토스는 실제 시스템에 영향을 주지 못하도록 격리된 ‘샌드박스’ 환경을 스스로 빠져나와 인터넷에 접근했다. 이어 웹사이트 취약점을 뚫고 들어가 해킹 결과를 직접 올리고, 기록이 남지 않도록 흔적을 지우는 치밀함까지 보였다.

하나의 취약점을 다른 취약점과 연결해 공격하는 ‘연쇄 공격(chain exploit)’ 능력도 갖췄다. 일반적인 서버 OS는 다중 보안 조치로 단일 취약점 공격을 막아낼 수 있지만, 전문 해커의 영역이던 연쇄 공격까지 미토스가 수행하면서 수 많은 소프트웨어와 OS가 무력화될 수 있다는 위기감이 커지고 있다. 톰 프리드먼 뉴욕타임스 칼럼니스트는 “아이들이 ‘엄마, 오늘 친구들이랑 전력망을 마비시켰어요’라고 말하는 사태가 벌어질 수 있다”고 경고했다.

◇ AI판 핵비확산체제 오나

미토스의 출현은 첨단 AI 모델 관리에 대한 근본적 질문을 던지고 있다. 민주적 통제를 받지 않는 민간기업이 이처럼 위험한 무기를 만들고 관리하는 것이 적절하냐는 것이다.

2차 세계대전 당시 핵무기 개발을 위한 ‘맨해튼 프로젝트’는 철저히 미국 정부 통제하에 진행됐다. 반면 미토스는 민간 기업 앤스로픽에서 탄생해 40개 테크 기업 및 파트너사에 우선 공개됐다.

사이버 AI 무기가 빠르게 확산될 것이라는 우려도 나온다. 로건 그레이엄 앤스로픽 위험 책임자는 “다른 AI 기업이 빠르면 6개월, 늦으면 18개월 안에 미토스와 유사한 성능의 모델을 출시할 수 있다”고 전망했다. 오픈AI·구글뿐 아니라 중국에서도 제2의 미토스가 등장하는 것은 시간 문제라는 의미다.

고든 골드스타인 미국외교협회(CFR) 선임연구원은 “미토스가 전 세계 주요 인프라를 심각한 위험에 빠뜨릴 것”이라고 경고했다. 원자력 발전소, 댐, 전력공급 시스템 등 노후 소프트웨어에 의존하는 기반시설이 해킹 위협에 무방비로 노출될 수 있다는 것이다. 나빈 크리슈난 하버드대 벨퍼센터 펠로우는 “미토스는 인류 문명의 새로운 핵무기”라고 말했다.

미국 등 강대국이 ‘괴물 AI’를 독점하는 상황도 논란이다. 폴리티코에 따르면 유럽 8개국 사이버 보안 당국이 미국에 접촉했지만 어느 기관도 미토스 접근권을 얻지 못했다. 일부 강대국이 핵무기를 독점한 ‘핵확산금지조약(NPT)’ 체제가 AI 시대에 재현될 수 있다는 관측이 나오는 배경이다.

실리콘밸리=김인엽 특파원 inside@hankyung.com