中, ‘랍스터 키우기→지우기’로 회귀…AI 보안 경쟁 본격화

3 weeks ago 7

11일 중국 동부 저장성 후저우시에서 AI 에이전트 ‘오픈클로(OpenClaw)’를 실행 중인 휴대폰 화면을 보여주는 모습. 빨간 랍스터가 아이콘이어서 중국에선 ‘랍스터’라는 별명으로 불린다. 신화통신 뉴시스

스스로 보고서를 쓰고 이메일을 전송하며 업무를 수행하는 인공지능(AI) 에이전트 ‘오픈클로’ 열풍에 제동이 걸렸다. 오픈클로 열풍의 중심지 중국에서 정부가 보안 위협을 경고하며 정부기관과 국유기업 사무실에서의 ‘사용 금지령’을 내린 것. 문서, 이메일 등에 접근 권한을 가진 AI가 외부 서버와 연결될 경우 기밀 정보 유출 가능성이 커질 수 있는 만큼 선제적인 조치에 나선 셈이다.

실제로 최근 메타의 AI 에이전트가 대규모의 데이터를 권한이 없는 직원들에게 노출시키는 보안사고가 발생하기도 했다.이렇듯 AI 에이전트의 보안 위험이 새로운 화두로 부상한 가운데, 엔비디아는 “AI에이전트의 폭주를 막겠다”며 보안 성능을 업그레이드한 오픈클로 격인 ‘네모클로’를 공개했다.

●中, 랍스터 키우기→지우기로 회귀

오픈클로는 ‘실제로 일을 해내는 인공지능’이라고 스스로를 소개한다. openclaw.ai

오스트리아 공학자 피터 스타인버거가 개발한 오픈클로는 기존 챗봇을 넘어서는 ‘자율형 AI 에이전트 플랫폼’이다. 단순히 사용자의 질문에만 답하는 것이 아니라, 최소한의 지시만으로 반복적인 작업을 수행하고 의사결정과 실행까지 가능하다. 예를들어 “고객에게 이메일을 보내줘”라고 지시하면 이메일 내용을 작성하는 데서 그치지 않고 수신인을 고르고, 첨부파일을 넣고, 전송 버튼을 누르는 전 과정을 이어서 수행하는 식이다.

오픈클로는 오픈소스로 공개돼 있어 누구나 무료로 설치할 수 있다. 특히 중국에서는 선풍적인 인기를 모았다. 6일 선전의 정보기술(IT) 기업 텐센트가 오픈클로 무료 설치 이벤트를 하자 프로그램 개발자, 학생, 주부까지 약 1000명이 몰려들었다. 이에 바닷가재(랍스터)를 아이콘으로 쓰는 오픈클로 열풍을 두고 ‘랍스터 키우기’ 라는 별명이 붙었다.

그러나 8일 중국 정부가 자율형 에이전트의 보안을 문제삼았고, 10일 공업정보화부와 국가인터넷응급센터 등 산하 기관들이 시스템 통제권 상실 및 데이터 유출 위험이 발생할 수 있다고 경고하고 나섰다. 이에 중국 소셜네트워크시스템(SNS)과 온라인 상거래 플랫폼에는 ‘완전한 삭제’를 위한 유료 삭제 서비스까지 등장했다.

실제로 AI 에이전트는 AI가 PC 입력 장치를 직접 제어하고 외부 서버와 통신하는 구조이다 보니, 승인 없이 작업을 하거나 보안설정을 임의로 변경할 위험이 있다. 지난달 메타 초지능연구소에서 안전 분야를 총괄하는 서머 유 디렉터는 오픈클로 AI 에이전트가 자신의 이메일 200통을 삭제해버렸다고 X(옛 트위터)에 밝혔다. AI로 하여금 삭제할 메일을 제안하고 승인을 받고 삭제하도록 했으나, 실제 메일함을 연결했더니 AI가 ‘승인 후 삭제’라는 지시 사항을 따르지 않은 것이다.최근에도 메타에서 자율형 AI 에이전트가 민감한 사내 정보를 노출시키는 사고가 발생했다. 19일 정보기술(IT) 전문 매체 디인포메이션에 따르면 메타 내부에서 테스트 중이던 AI 에이전트가 보안 프로토콜을 임의로 우회해 방대한 양의 기업 및 사용자 데이터가 열람 권한이 없는 엔지니어들에게 2시간 동안 무방비로 노출됐다. 메타는 이를 전사적 보안 비상사태인 ‘세브 원(Sev 1)’으로 규정하고 정밀 조사에 착수했다. 앞서 한국에서도 오픈클로 출시 후 네이버·카카오 등이 보안 우려를 이유로 사용을 금지한 바 있다.

●엔비디아, ‘네모클로’로 승부수

‘보안’ 문제가 뇌관으로 떠오르며 글로벌 빅테크들은 보안을 강화한 기업용 AI 에이전트 플랫폼으로 시장 선점에 나섰다. 젠슨황 엔비디아 CEO는 17일(현지시간) 연례 개발자 콘퍼런스 GTC에서 기업용 AI 에이전트 플랫폼 ‘네모클로(NemoClaw)’를 공개했다. 오픈클로에 프라이버시 보호, 감독 기능, 기업용 보안 체계를 포함한 ‘가드레일’을 적용한 모델로, 기업 환경에서도 활용 가능한 수준의 안정성과 통제 기능을 제공한다는 전략이다.

알리바바도 최근 보안 인프라를 바탕으로 한 AI 기반 엔터프라이즈 플랫폼 ‘우콩(Wukong)’을 앞세워 기업용 AI 시장 정조준하고 있다. 업계 관계자는 “글로벌 빅테크 간 보안을 앞세운 에이전트 AI 플랫폼 경쟁이 본격화되고 있다”고 분석했다.

전혜진 기자 sunrise@donga.com
한채연 기자 chaezip@donga.com