오픈클로 잇단 보안 사고에… 中 “정부기관 사용말라” 금지령

3 weeks ago 5

메일 멋대로 지우고 데이터 노출… AI에이전트 선풍적 인기에 제동
빅테크, 정보 보호 새 플랫폼 경쟁
엔비디아 ‘네모클로’로 승부수… 알리바바는 기업용 ‘우콩’ 선보여

11일 중국 동부 저장성 후저우시에서 AI 에이전트 ‘오픈클로(OpenClaw)’를 실행 중인 휴대폰 화면을 보여주는 모습. 빨간 랍스터가 아이콘이어서 중국에선 ‘랍스터’라는 별명으로 불린다. 신화통신 뉴시스

스스로 보고서를 쓰고 이메일을 전송하며 업무를 수행하는 인공지능(AI) 에이전트 ‘오픈클로’ 열풍에 제동이 걸렸다. 오픈클로 열풍의 중심지 중국에서 정부가 보안 위협을 경고하며 정부기관과 국유기업 사무실에서의 ‘사용 금지령’을 내린 것. 문서, 이메일 등에 접근 권한을 가진 AI가 외부 서버와 연결될 경우 기밀 정보 유출 가능성이 커질 수 있는 만큼 선제적인 조치에 나선 셈이다.

실제로 최근 메타의 AI 에이전트가 대규모의 데이터를 권한이 없는 직원들에게 노출시키는 보안사고가 발생하기도 했다. 이렇듯 AI 에이전트의 보안 위험이 새로운 화두로 부상한 가운데, 엔비디아는 “AI 에이전트의 폭주를 막겠다”며 보안 성능을 업그레이드한 오픈클로 격인 ‘네모클로’를 공개했다.

● 中 정부도 ‘오픈클로’ 금지령

오스트리아 공학자 페터 슈타인베르거가 개발한 오픈클로는 기존 챗봇을 넘어서는 ‘자율형 AI 에이전트’다. 단순히 사용자의 질문에만 답하는 것이 아니라, 최소한의 지시만으로 반복적인 작업을 수행하고 의사 결정과 실행까지 가능하다. 예를 들어 “고객에게 이메일을 보내줘”라고 지시하면 챗GPT나 제미나이처럼 내용만 작성하는 데 그치는 것이 아니라 수신인을 고르고, 첨부파일을 넣고, 전송 버튼을 누르는 전 과정을 수행하는 식이다.

오픈클로는 오픈소스로 공개돼 있어 누구나 무료로 설치할 수 있는데, 특히 중국에서 선풍적인 인기를 모았다. 6일 선전의 정보기술(IT) 기업 텐센트가 오픈클로 무료 설치 이벤트를 하자 프로그램 개발자, 학생, 주부까지 약 1000명이 몰려들었다. 바닷가재(랍스터)를 아이콘으로 쓰는 오픈클로 열풍을 두고 중국에선 일명 ‘랍스터 키우기’라는 별명까지 붙었다.

그러나 8일 중국 정부가 자율형 에이전트의 보안을 문제 삼았고, 10일 공업정보화부와 국가인터넷응급센터 등 산하 기관들이 시스템 통제권 상실 및 데이터 유출 위험이 발생할 수 있다고 경고하고 나섰다. 외신들은 중국 당국이 정부 기관을 대상으로 오픈클로 등 AI 에이전트 사용을 전면 통제하기 시작했다고 보도했다. 실제로 AI 에이전트는 AI가 PC 입력 장치를 직접 제어하고 외부 서버와 통신하는 구조이다 보니, 승인 없이 작업을 하거나 보안 설정을 임의로 변경할 위험이 있다. 지난달 메타 초지능연구소에서 안전 분야를 총괄하는 서머 유 디렉터는 오픈클로 AI 에이전트가 자신의 이메일 200통을 삭제해 버렸다고 X(옛 트위터)에 밝히기도 했다. 최근에도 메타에서 자율형 AI 에이전트가 민감한 사내 정보를 노출시키는 사고가 발생했다. 19일 IT 전문 매체 디인포메이션에 따르면 메타 내부에서 테스트 중이던 AI 에이전트가 기업 및 사용자 데이터를 권한이 없는 엔지니어들에게 2시간 동안 무방비로 노출시켜 비상이 걸렸었다.

● 엔비디아, ‘네모클로’로 승부수

‘보안’ 문제가 뇌관으로 떠오르며 글로벌 빅테크들은 보안을 강화한 기업용 AI 에이전트 플랫폼을 속속 내놓고 있다. 젠슨 황 엔비디아 최고경영자(CEO)는 17일(현지 시간) 연례 개발자 콘퍼런스 GTC에서 기업용 AI 에이전트 플랫폼 ‘네모클로’를 공개했다. 오픈클로에 프라이버시 보호, 감독 기능, 기업용 보안 체계를 포함한 ‘가드레일’을 적용한 모델로 기업 환경에서도 활용 가능한 수준의 안정성과 통제 기능을 제공하겠다는 전략이다.

알리바바도 최근 보안 인프라를 바탕으로 한 AI 기반 엔터프라이즈 플랫폼 ‘우콩’을 앞세워 기업용 AI 시장을 정조준하고 있다. 업계 관계자는 “글로벌 빅테크 간의 보안을 앞세운 AI 에이전트 플랫폼 경쟁이 본격화되고 있다”고 분석했다.

전혜진 기자 sunrise@donga.com
한채연 기자 chaezip@donga.com