딥페이크에 맞선 반격… ‘AI 보안관’부터 ‘디지털 DNA’ 거래까지[김현지의 with AI]

5 days ago 9

블랙핑크 멤버들이 서로를 거칠게 밀치고 때리는 영상이 최근 온라인을 뜨겁게 달궜다. 몸싸움은 양복을 차려입은 남성이 내민 돈봉투 앞에서 끝이 났다. 찰나의 표정부터 근육 움직임까지 실사와 구별하기 어려울 만큼 생생했지만 이는 인공지능(AI)으로 만들어 낸 정교한 가짜였다. 아티스트의 동의는커녕 소속사가 알지도 못한 채 제작된 영상은 기술의 진보가 개인의 존엄을 얼마나 쉽게 무너뜨릴 수 있는지 여실히 보여줬다.

AI로 생성한 블랙핑크 멤버들 간의 난투극. 생성형 AI 플랫폼 사용자가 AI의 성능 테스트를 위해 영상을 만들고 해당 플랫폼에 공유했다.

● 진짜보다 더 진짜 같은 가짜의 시대

불과 얼마 전까지 “AI 영상은 어색하다”는 평가가 일반적이었지만 이제는 옛말이 됐다. 시네마틱한 조명부터 자연스러운 카메라 워킹까지 구현해내는 AI 기술은 광고와 영화 산업의 지형을 흔들고 있다. 하지만 기술 발전의 이면에는 ‘나보다 더 나 같은’ 복제본이 내 권리를 침해하고 수익을 가로채는 서늘한 현실이 자리하고 있다.

한 인스타그램 유저는 할리우드 스타들과 찍은 것처럼 보이는 셀카 영상을 생성하고 자신이 운영하는 채널에 게재해 1억 회가 넘는 조회수를 확보했다.(얼굴은 모자이크 처리).

인스타그램에서 개인 채널을 운영하는 한 유저는 할리우드 스타들과 찍은 셀카 영상을 게재해 1억 회가 넘는 조회수를 확보했다. 그는 “요새 유명인과 셀카 찍는 게 유행인 것 같아 나는 나만의 방식으로 합류했다”며 AI로 생성한 영상임을 암시하기는 했지만 문제는 이 과정에서 정당한 대가 지불이나 초상권에 대한 허락을 받는 과정이 없었다는 점이다.

단순히 ‘팬 콘텐츠’로 치부해 너그럽게 봐주기에는 제작자가 얻는 이익이 지나치게 크다. 조회수가 곧 수익으로 직결되는 디지털 생태계에서 유명인의 얼굴은 가장 강력한 상업적 도구이기 때문이다.

이같은 딥페이크 이슈는 비단 유명인만의 것이 아니다. 일상적으로 SNS에 사진을 올리는 일반인들 역시 언제든 딥페이크 음란물이나 보이스피싱의 타깃이 될 수 있다. 지난해 12월 일론 머스크의 AI회사 ‘xAI’가 내놓은 AI 챗봇 ‘그록’은 이미지 편집 기능을 추가했는데 이는 웹에 올라와 있는 사진을 손쉽게 속옷 차림으로 바꾸고 이를 소셜네트워크서비스 ‘엑스(X)’를 통해 다른 이용자들에게도 노출시킬 수 있어 논란을 불러일으켰다.

유럽 비영리 단체 ‘AI 포렌식스’는 지난해 12월25일부터 이달 1일 사이 그록이 생성한 무작위 이미지 20만개를 분석한 결과 53%가 속옷, 비키니 등 최소한의 옷만 입은 인물이고 이 가운데 여성으로 보이는 인물 비중은 81%에 달한다고 밝혔다. ● “딥페이크 꼼짝마!” AI 보안관의 등장

자신의 초상권이 웹의 사각지대에서 도용 혹은 악용되는 상황을 개인이 일일이 파악하기란 불가능에 가깝다. 이런 불안감을 포착해 비즈니스로 연결한 기업이 미국 소재 로티 AI(LOTI AI)다. 로티 AI는 딥페이크 탐지 및 삭제를 전문으로 하는, 이른바 ‘AI 보안관’ 역할을 자처한다.

로티 AI는 사용자들이 제공한 사진, 영상, 음성 데이터를 기반으로 실시간 웹을 모니터링해 무단 유포된 딥페이크 영상이나 사칭 계정을 추적한다. 악용 사례가 발견되면 자동화된 시스템으로 플랫폼에 즉각 삭제를 요청한다.

외뢰인의 사진, 영상, 음성 데이터를 이용해 웹 상 딥페이크 혹은 사칭 계정을 추적하는 미국의 ‘로티 AI(LOTI AI)’

로티AI 측은 “개인이 유해 콘텐츠를 일일이 추적하고 신고하는 것도 힘들지만 이미지가 삭제될 때까지 마음 졸이고 기다리는 동안 동일한 이미지가 또다른 플랫폼에 올라올 수 있다는 게 큰 문제”라며 “우리의 목표는 웹 모니터링과 자동 삭제 요청 솔루션을 이용해 유해 콘텐츠를 17시간 이내 95% 삭제하는 것”이라고 소개했다. 기술로 입은 피해를 다시 기술로 방어하는 ‘디지털 방역’이 로티AI의 비즈니스인 셈이다. ● 권리이자 자산, ‘디지털 DNA’도 등장

한발 더 나아가 디지털 초상권을 적극적인 수익 모델로 전환하려는 움직임도 나타나고 있다. VFX(시각 효과) 전문기업 엠83(M83)의 자회사 KDDC(한국디지털디엔에이센터)는 개인의 ‘디지털 DNA’를 해당 인물의 공식 IP(지식재산권)로 만들어 AI 콘텐츠 제작 시 합법적 재료로 활용하기 위한 준비를 시작했다.

KDDC는 100여 대 카메라가 장착된 3D 스캐너로 인물 외형, 표정, 목소리, 말투까지 정밀하게 스캔해 데이터베이스에 저장한다. 이렇게 등록된 데이터만 합법적 사용을 승인하고 미등록 합성물은 불법으로 식별하는 체계를 만드는 것이 목표다.

정의석 KDDC 대표는 “광고 모델이 꼭 촬영 현장에 있지 않아도 그의 디지털 DNA를 이용해 광고를 제작하고 수익을 정산할 수 있다”고 설명했다. KDDC는 현재 한국연예인매니지먼트협회와 협업해 협회 소속 연예인들의 디지털 DNA를 구축 중이다.

디지털 카메라 100여 대로 사람 외형, 표정, 몸짓 등을 기록해 디지털 데이터로 저장하는 3D 스캐너. 한국디지털디엔에이센터(KDDC)는 이 데이터가 합법적 디지털 초상권 행사의 기반이 될 수 있다고 설명한다. KDDC 제공

● “디지털 초상권,법-제도 정비 필요”

영화 ‘추격자’ ‘미쓰홍당무’의 투자·제작사인 벤티지홀딩스를 이끌며 영화계 경험을 쌓아 온 정 대표는 AI로 인해 영상 생태계가 근본적으로 재편되는 시점이 4∼5년 내 도래할 것으로 전망한다. 그는 이에 앞서 디지털 초상권에 대한 법적·제도적 기반이 구축돼야만 건강한 영상 산업 생태계가 조성될 수 있다고 강조했다.

현행 법체계에는 디지털 초상권이 명시적으로 규정되어 있지 않다. 기존 초상권은 촬영, 공표 행위를 중심으로 해석돼 왔으며 AI 기술을 통해 합성된 디지털 초상물에 대한 구체적 적용 기준은 없다.

정 대표는 “AI 기술의 대중화로 누구나 콘텐츠를 생성할 수 있는 시대가 도래했지만 이를 뒷받침할 권리 체계가 부재한 상황에서는 생성 결과물의 법적 소유권이 사후적으로 다툼의 대상이 될 수밖에 없다”며 “개인의 인격권과 재산권을 보호하는 동시에 AI 시대 창작 생태계를 지속 가능하게 만들 법적, 제도적 인프라 구축이 절실하다”고 말했다.

김현지 기자 nuk@donga.com