“중국·이란, 온라인 여론 조작…‘자율형 AI 봇’ 개발해 활용”

국제 > 글로벌 사회 “중국·이란, 온라인 여론 조작…‘자율형 AI 봇’ 개발해 활용” 사회관계망서비스(SNS) 플랫폼 로고. [AFP, 연합뉴스] 중국과 이란의 국가 세력과 이스라엘의 기업들이 인공지능(AI)을 활용한 자율형 여론 조작을 사회관계망서비스(SNS)에서 펼쳤다는 외신 보도가 나왔다.미 일간 뉴욕타임스(NYT)는 18일(현지시간) 미 당국자들과 보안 전문가들을 인용, 해당 국가와 단체들이 AI를 활용해 인간을 넘어선 속도와 규모로, 인간이 최소한으로 개입한 온라인 여론 조작 활동을 급격히 확대했다고 보도했다.이들은 자유롭게 다운로드하거나 수정할 수 있는 중국의 오픈소스 AI 모델을 활용해 스스로 특정 과업을 수행할 수 있는 봇인 에이전트를 개발했다.수백개의 AI 에이전트들은 인스타그램과 페이스북, X(옛 트위터), 틱톡 등 플랫폼에서 가짜 계정들을 자율적으로 생성했다. 이후 여론을 흔들고자 정치·시사 이슈 관련 허위 게시물을 가짜 계정을 통해 빠르게 유포했다.중국과 이란의 캠페인은 국가 주도였고, 이스라엘의 캠페인은 민간 기업이 주도한 것으로 나타났다. 이란 캠페인의 경우 미국 대중을 겨냥했고, 에이전트가 생성한 가짜 계정들은 주요 도시에 거주하는 평범한 미국인으로 위장했다.이 계정들은 기자와 정치인들을 태그해 인기 밈과 반(反)공화당 성향 의견 등을 유포했다. 올해 상반기 활동으로 모은 팔로워만 약 8만명에 이르는 것으로 나타났다.앞서 페이스북과 인스타그램을 운영하는 메타는 AI를 동원한 이란의 선전 공작을 차단했다고 지난달 말 발표한 바 있다. 당국자들은 AI 에이전트가 계정 생성부터 온라인 메시지 조율에 이르는 여론 조작 활동의 모든 단계를 전담한 것은 사실상 최초 사례에 속한다고 전했다.이같은 AI 에이전트 기반 활동은 조잡한 수준이었으나 미국 정보기관과 기술 기업, 보안 전문가들의 주목을 받았다. 공개적으로 이용할 수 있는 AI 모델이 사실상 스스로 온라인 여론 조작을 수행하는 데 악용될 수 있다는 우려를 낳은 까닭이다.일부 미 당국자는 오는 11월 중간선거를 앞두고 미국 투표자들을 겨냥해 유사한 시도가 이뤄질 수 있다고 전망했다.조지타운대 안보·신기술센터(CSET)의 카일 크라이튼 연구원은 기술이 계속 발전하면서 AI 에이전트 주도형 여론 조작 시도가 더 흔해질 것이라고 예상했다. 그는 NYT에 “에이전트는 상당히 정교해질 수 있어 단순한 스케일 확장을 넘어 실제 인간 사용자처럼 자...