“크리에이터 10명 중 6명, AI로 인한 권익 침해 경험”…김형진 메타크라우드 대표, 국회서 딥페이크 피해 실태 발표

크리에이터 10명 중 6명(60.9%)이 딥페이크·콘텐츠 무단 복제 등 인공지능(AI) 관련 권익 침해를 이미 직접 경험한 것으로 나타났다. 피해 경험자 3명 중 1명(36.9%)은 피해 정도를 '심각' 이상으로 평가했다. 일회성 불편이 아니라 생계와 직결된 피해라는 의미다.

AI 신뢰 기술 전문기업 메타크라우드 김형진 대표(명지대 미래융합경영학과·AI기업경영학과 교수)는 지난 20일 국회의원회관 제9간담회의실에서 열린 'AI 시대 미디어 플랫폼 생태계 보호와 크리에이터 권익 확립을 위한 정책 간담회'(주최 이주희 국회의원·더불어민주당, 주관 한국디지털콘텐츠크리에이터협회)에서 'AI가 뒤흔드는 미디어 플랫폼 시장:AI 생성 가짜 콘텐츠와 알고리즘 오작동의 시장 교란'을 주제로 발제에 나서 이 같은 실태조사 결과를 발표했다고 밝혔다.

이번 조사는 국내 최초 현업 크리에이터를 대상으로 실시된 'AI 시대 크리에이터 권익 실태조사'(2026.7.2.~7.8., 유효 응답 258명)로, 김 대표가 데이터 분석을 총괄했다.

조사 결과 크리에이터의 94.6%가 AI를 창작에 활용하고 있지만, 동시에 응답자 30.2%(78명)는 콘텐츠 무단 복제(19.0%)와 딥페이크·음성 복제(14.3%) 등 'AI 도용·복제 피해'를 경험한 것으로 나타났다. 이는 기획과 서사, 초상, 음성 등 창작 요소가 통째로 복제되는 신종 침해 유형이다.

발제에서는 딥페이크 피해가 크리에이터 개인을 넘어 미디어 생태계 전반을 교란하는 실증 사례들이 공개됐다. 유명인 얼굴과 목소리를 합성한 딥페이크 영상통화·투자 사기, 미출시 신차의 AI 가상 이미지가 약 1년간 실제 차량인 것처럼 언론과 유튜브에 확산되며 소비자를 기만하고 정상 리뷰 채널 신뢰와 트래픽을 잠식한 사례, 공신력 있는 언론 보도처럼 꾸민 AI 팩트 짜깁기형 가짜뉴스 사례 등이다.

김형진 대표는 “AI로 콘텐츠의 한계 생산비용이 0에 수렴하면서 딥페이크를 비롯한 가짜 콘텐츠는 초 단위로 만들어지는데, 이를 가려내는 검증은 추가적인 시간과 자원 투입을 요구한다”며 “진짜와 가짜의 경계가 무너지면 콘텐츠 시장 전체 신뢰가 훼손되며, 성실한 창작자부터 퇴출되는 '레몬마켓(구매자가 상품 품질을 정확히 알지 못해 불량품만이 거래되는 시장)화'가 진행돼, 시장 실패가 예견되는 만큼 이에 대응하기 위한 제도적 논의가 필요하다”고 진단했다.

노출이 확대되고 수익화가 시작되는 구독자 1000~1만 구간에서 침해 경험률이 75.0%로 가장 높았다. 이는 보호 제도의 1차 수혜자가 일부 대형 채널이 아니라 절대다수의 성장기 중소 크리에이터임을 보여주는 대목이다.

정책 수요도 뚜렷했다. 'AI 생성 콘텐츠 표시 의무화'(43.0%)와 '딥페이크 신속 삭제 제도'(41.9%)가 필요 정책 1·2위에 올랐고, 6대 보호 정책 모두 35% 이상 고른 수요를 보였다. 주목할 점은 AI 효용을 긍정적으로 평가한 집단이 오히려 더 많은 보호 정책을 요구했다는 것이다.

김 대표는 “보호를 요구하는 것은 기술에 대한 반대가 아니라 AI를 일상적으로 사용하는 크리에이터들의 합리적인 안전장치 요구”라고 해석했다.

메타크라우드는 딥페이크 동영상·이미지·음성 등 딥페이크 전반을 판별하는 세계적 수준의 딥페이크 탐지 솔루션 'DST-NET'과 'CREST-NET', 딥보이스(AI 합성음성)·보이스피싱 실시간 탐지 솔루션 '보이스쉴드(VOICESHIELD)', 음성 및 DID 기반 2FA 복합 인증 솔루션 '메타패스(MetaPass)', C2PA 표준 기반 뉴스 무단전제 방지 서비스 '뉴스체인(Newschain)', AI개입 분석 기반 문서 탐지 서비스 '글자국(TextShield)' 등 딥페이크 탐지·워터마킹 전 영역의 기술을 보유하고 있으며, 이 기술적 전문성을 바탕으로 이번 발제에서 딥페이크 피해 구조를 실증적으로 분석했다.

김 대표는 “AI와 크리에이터는 서로 대립하는 관계가 아니며, 오히려 크리에이터는 AI를 가장 적극적으로 활용하는 AI 시대 핵심 주체”라며 “크리에이터가 안심하고 AI를 활용해 창작 활동을 펼칠 수 있도록 이들의 얼굴과 목소리, 창작물이 딥페이크 재료로 악용되지 않게 하는 표시제와 탐지 기술, 구제 절차가 함께 작동하는 환경을 만드는 데 메타크라우드가 기술로 기여하겠다”고 밝혔다.

이날 간담회에는 방송미디어통신위원회 관계자, 현업 크리에이터, 산업계 관계자 등이 참석했으며, 실태조사 결과는 정책 백서와 학술 논문, 국회 입법 참고 자료 등으로 발간될 예정이다.

김현민 기자 minkim@etnews.com