AI 무기화 또 불붙인 팔란티어 “日-獨 재무장 필요” 주장까지

3 hours ago 3

‘기술공화국 선언’ 22개항 파장
“실리콘밸리도 국가 방위 나서야… 핵 아닌 AI 기반 억지력 시대”
“정부에 상품 팔려는 것” 비판속… 일각 “AI의 오펜하이머 모멘트”
예기치 않은 파괴력 가능성 경고

지난해 10월 서울 성동구 성수동에 팝업스토어를 열며 한국을 방문했을 때 동아일보와 인터뷰를 하는 앨릭스 카프 팔란티어 최고경영자(CEO). 홍진환 기자 jean@donga.com

미국의 인공지능(AI) 방산 기업 팔란티어가 느닷없이 소셜네트워크서비스(SNS)에 올린 글의 파장이 커지고 있다. 현재 미국이 이란과 전쟁 중인 상황에서 “국가 안보를 위해 기술기업들이 적극 기여해야 한다”며 AI 무기화를 적극 옹호한 것이다. 또 미국은 징병제를 실시해야 한다거나 독일과 일본이 재무장을 해야 한다는 등의 내용도 담겼다.

● “핵 억지력보다 AI 억지력 시대”

팔란티어는 19일(현지 시간) X(옛 트위터)에 “질문이 많아 글을 올린다”며 앨릭스 카프 최고경영자(CEO)의 저서 ‘기술 공화국 선언’을 22개항으로 요약해 게시했다. 1번 조항은 “실리콘밸리는 자신들의 성장을 가능하게 한 국가에 도덕적 빚이 있으므로, 국가 방위에 적극 참여해야 한다”로 시작한다. 또 “국가 봉사는 보편적 의무가 되어야 한다”며 징병제 부활을 주장하거나(6번) “핵 억지력 시대는 끝나고, AI에 기반한 억지력 시대가 왔다”(12번)는 주장을 이어갔다. 또 “독일의 비무장화로 유럽은 비싼 비용을 치르고 있고, 일본의 평화주의는 아시아의 세력 균형을 흔든다”며 두 국가의 재무장이 필요하다고 적기도 했다(15번). 카프 CEO가 지난해 출간한 저서 내용을 갑자기 게시한 배경을 두고 관심이 쏠린다. 이란-미국 전쟁으로 촉발된 ‘AI 무기화’ 논쟁이 커지는 가운데 나온 주장이기 때문이다. 특히 방산 AI 기업인 팔란티어의 시스템은 미국의 베네수엘라 전 대통령 니콜라스 마두로 체포 작전과 알리 하메네이 이란 최고지도자 제거 작전에 활용된 바 있다. 팔란티어의 AI는 방대한 데이터를 활용해 전쟁에서 타격 후보를 식별하거나 우선순위를 정해주는 등 의사결정을 지원한다.

AI의 군사적 활용 논란 중심에 있는 팔란티어의 주장에 대해 영국 유력 매체 가디언은 “만화책 슈퍼빌런(악당)이나 할 법한 횡설수설”이라고 강도 높게 비판했다. 가디언은 그러면서 레이철 마스켈 영국 노동당 서민원(하원) 국회의원의 발언을 인용해 “팔란티어가 자신들의 기술력과 사업력을 이용해 정책과 정치에 영향을 미치려 한다”며 “이 같은 기업은 공공서비스에 발을 들일 자격이 없다”고 주장했다.

데이브 카프 조지워싱턴대 미디어 및 공공정책대학원 교수도 미국 기술 전문 매체 ‘더 테크 프레스’에 21일 기고문을 내고 “충격적으로 퇴보적인 내용”이라며 “정부가 자신들의 상품에 더 많은 돈을 내어 주기를 간절히 바라며 쓴 글일 뿐”이라고 지적했다.

북대서양조약기구(NATO)가 운용하는 잠수함도 팔란티어가 개발한 전장(戰場) 의사 결정 시스템을 탑재했다고 팔란티어는 홍보하고 있다. 사진 출처 팔란티어 홈페이지

● AI 무기화 논쟁 격화되는 美

팔란티어의 이번 ‘성명’ 논란으로 실리콘밸리에서 AI의 무기화를 둘러싼 윤리 논쟁이 다시 격화될 것으로 보인다. 팔란티어는 2003년 페이팔 창업자 피터 틸이 설립할 때부터 ‘기술 파워를 통한 서구 민주주의 보호’를 기업 철학으로 삼은 곳이다. 독일 프랑크푸르트 괴테대학에서 철학박사를 취득한 카프 CEO 역시 여러 차례 AI의 파괴력을 활용해 서구 문명을 지켜야 한다고 주장해 왔다.

반면 팔란티어와 함께 베네수엘라와 이란 작전에 쓰인 앤스로픽은 미 국방부와 소송전을 이어가며 AI의 무기화에 반대하고 있다. 앤스로픽이 자사 AI의 자율 살상무기 탑재와 대규모 감시 동원에 반대하자, 도널드 트럼프 대통령은 2월 27일 연방기관에 앤스로픽 기술 사용 중단을 지시했다. 이에 피트 헤그세스 전쟁부 장관은 이들을 미국 기업 최초로 ‘공급망 위험’ 기업으로 지정했고, 앤스로픽은 그에 반발하며 소송을 제기했다.

일각에서는 AI가 예기치 않은 파괴력을 가져올 수 있다는 점에서 AI의 ‘오펜하이머 모멘트’가 다가오고 있다는 주장도 제기된다. 카프 CEO 자신도 2023년 뉴욕타임스 기고글에서 “(원자폭탄을 개발한) 오펜하이머처럼 아직 그 힘과 잠재력을 완전히 이해하지 못한 기술의 개발을 계속할지 여부를 다시 선택해야 하는 갈림길에 서 있다”고 쓴 바 있다.

‘AI의 대부’로 불리는 제프리 힌턴 캐나다 토론토대 컴퓨터과학과 명예교수는 경제매체 비즈니스인사이더 인터뷰에서 “AI와 로봇이 전쟁의 문턱을 낮춰 더 많은 전쟁을 만들어낼 것”이라고 경고하며 “정부는 전쟁을 쉽게 시작하고, 그 과정에서 방위산업체만 막대한 돈을 벌어들이게 될 것”이라고 말했다.

이원주 기자 takeoff@donga.com
김재형 기자 monami@donga.com