[광화문에서/김재형]AI 해킹은 1분 만에 뚫는데 낡은 규제에 막힌 ‘AI 방패’

김재형 산업1부 기자 16일 서울 강남구 웨스틴서울파르나스에 정보보호최고책임자(CISO) 등 국내 기업 임원 60여 명이 모였다. 이들을 부른 곳은 보안업체가 아니라 미국 인공지능(AI) 기업 오픈AI였다. 오픈AI는 여기서 AI가 보안 취약점을 찾아 수정안까지 내놓는 방어 체계 ‘데이브레이크’를 소개했다. 챗봇을 팔던 AI 기업들이 보안 시장의 주연으로 떠올랐다. 앤스로픽은 소스코드 취약점을 찾아 고쳐 주는 ‘클로드 시큐리티’를, 구글은 보안 특화 AI를 검증된 기관에만 여는 ‘페어윈드’를 내놨다. 국내 기업들도 움직이고 있다. 삼성SDS와 보안업체 에스투더블유(S2W)는 데이브레이크에, 화이트해커 기업 티오리는 오픈AI·앤스로픽 프로그램에 합류했다. SK텔레콤과 업스테이지는 8일 안랩 등과 독자 AI 보안 협의체를 꾸렸다. 이렇게 서두르는 이유는 분명하다. 공격자인 해커들은 이미 AI를 쥐고 보안 허점을 쉴 새 없이 두드린다. 개발자들이 코드를 나누는 사이트 깃허브에 오픈소스로 풀린 AI 모의해킹 도구는 누구나 내려받아 공격 무기로 쓸 수 있다. 실제 본보가 이달 초 금융권 해킹에 쓰인 것으로 지목된 그 도구를 실습 서버에 돌리니 1분이 안 돼 뚫렸다. 사람 손으로 막을 수 있는 속도가 아니다. 막는 쪽도 같은 도구인 AI로 제 허점을 먼저 찾아야 하는 시대가 된 것이다. 하지만 법은 사람이 점검하던 시절 그대로다. 정보통신망법 48조 1항은 ‘누구든지 정당한 접근권한 없이 또는 허용된 접근권한을 넘어 정보통신망에 침입해서는 안 된다’고 돼 있다. 선의의 점검을 면책하는 조항은 없다. 물론 기업이 자기 시스템이나 허락받은 고객 시스템을 점검할 때는 지금도 AI를 쓸 수 있다. 보안 협의체도 데이브레이크도 이 울타리 안의 일이다. 그런데 공격자는 협력사든, 외부 접점이든 뚫리는 곳으로 들어온다. 모의해킹의 쓸모는 그 경로를 미리 밟아 보는 데 있는데, AI는 스스로 길을 찾다가 울타리를 넘기 일쑤다. 방어 목적이라도 선을 넘는 순간 범죄가 되니, 실전처럼 점검하려는 기업일수록 손발이 묶인다. 정부도 이 공백을 안다. 올해 첫 취약점 신고 시범사업에선 민간 7곳과 공공 8곳의 지정 시스템에 한해, 등록한 화이트해커가 AI로 뚫어 본 뒤 신고하면 책임을 묻지 않기로 했다. 하지만 면책 울타리는 그 15곳뿐이다. 이 면책을 모든 기업과 기관으로 넓히는 제도화는 2027년에야 시작된다. 취약점이 알려지면 기업 이미지...