얀 르쿤 “AI발 보안사고는 경험 부족이 원인…쉽게 고치는 문제”

12일 서울 웨스틴조선 호텔에서 열린 ‘산업 AI 글로벌 협력’ 기자간담회에서 AMI랩스 얀 르쿤 회장이 답변하고 있다. 얀 르쿤 AMI랩스 회장이 최근 몇 달 새 잇따른 인공지능(AI) 보안 사고를 두고 AI 기업의 ‘경험 부족’이 원인이라며 쉽게 고칠 수 있는 문제라고 말했다.르쿤 회장은 12일 서울 중구 웨스틴조선서울에서 열린 ‘산업 AI 글로벌 협력’ 기자간담회에서 AI의 보안 위험과 통제 가능성을 묻는 질문에 이같이 답했다. 2018년 튜링상 수상자인 르쿤 회장은 그간 AI가 인류를 위협한다는 종말론을 ‘망상’이라고 비판해 왔다.최근 금융권에 따르면 지난달 말부터 신한·KB국민·하나은행에서 고객 정보가 잇달아 빠져나갔다. 이억원 금융위원장은 이를 두고 AI를 활용한 해킹일 가능성을 배제할 수 없다고 했다.통신·OTT 업계에서도 대규모 유출이 이어졌다. 지난해 SK텔레콤·KT·LG유플러스 통신 3사가 잇달아 해킹을 당했고, 올해는 온라인동영상서비스(OTT) 티빙에서 휴면 계정을 포함해 3954만 개 계정 정보가 빠져나갔다.르쿤 회장은 보안 사고의 원인으로 ‘경험 부족’을 꼽았다.그는 “스스로 작업을 처리하는 AI 프로그램(에이전트)을 배치한 AI 기업들은 사이버보안 경험이 많지 않았다”며 “에이전트를 가둬둔 격리 공간(샌드박스)에 빈틈이 있어 밖으로 새어 나간 것”이라고 했다. 샌드박스는 AI 프로그램이 외부 시스템에 함부로 접근하지 못하도록 막아둔 실행 환경이다.르쿤 회장은 이를 두고 “잘 알려진 기술을 제대로 적용하지 못했을 뿐”이라며 “쉽게 고칠 수 있는 문제”라고 주장했다.● “AI는 공격자보다 방어자에게 유리하다”르쿤 회장은 AI가 사이버보안에서 공격자보다 방어자에게 유리하다고 봤다. 그는 방어하는 쪽은 인력이 더 많고 숨어서 일할 필요가 없으며 자금도 많다는 점을 근거로 들었다.그는 “화이트 해커는 서로 소통하는 큰 공동체를 이룬다”며 “반면 블랙 해커는 수가 적고 숨어서 일을 해야 해 지식을 나누기 어렵다”고 주장했다. 이어 “강력한 AI 시스템을 쓰려면 막대한 컴퓨팅 자원이 드는 점도 어려움 중 하나다. 쉽게 탐지되기 때문”이라고 짚었다.● 통제 어려운 LLM, 목표 지향 AI로 풀어야다만 르쿤 회장은 대규모 언어모델(LLM) 기반 AI는 구조적으로 직접 통제하기 어렵다고 봤다.현재 생성형 AI 개발사들은 예상되는 질문마다 위험하지 않은 답을 내놓도록 미세조정(fine-tuning)하는 방...