10대 파고드는 성착취 딥페이크 앱… 피의자 2년새 9배로 늘어

5 days ago 4

“장당 1200원” 성인인증 없이 가입
동급생 얼굴에 나체사진 합성
피의자 2023년 91명→829명으로
“학생 교육-플랫폼 규제 강화해야”

생성형 인공지능(AI) 기술이 확산되면서 10대들의 딥페이크 성범죄도 빠르게 늘고 있다. 동의 없이 타인의 사진을 이용해 성착취물을 만들고 이를 온라인에서 공유하는 사례가 이어지고 있는 것. 전문가들은 플랫폼 규제 강화와 함께 교육 현장에서 딥페이크 관련 교육을 의무화할 필요가 있다고 지적했다.

● 10대 딥페이크 피의자 829명, 2년 새 9배로 증가

31일 경기 화성시의 한 중학교에 따르면 지난해 6월 이 학교에서 학생들이 동급생의 딥페이크 나체 사진을 만들어 달라고 의뢰하고 합성물을 제작했다는 논란이 일어 학교가 진상 파악에 나섰다. 학교폭력대책심의위원회 회의록에 따르면 가해 학생들은 소셜네트워크서비스(SNS)에서 같은 학교 한 여학생의 얼굴이 나온 사진을 AI를 이용해 다른 나체 사진에 합성한 뒤 서로 돌려봤다. 피해 학생 측 가족의 신고로 수사에 나선 경기남부경찰청은 가해 학생 2명에게 성폭력처벌법 위반 혐의를 적용해 지난달 18일 각각 소년재판부와 검찰에 송치했다.

이처럼 10대 AI 딥페이크 성범죄 피의자는 관련 통계 집계 이후 계속 증가하고 있다. 경찰청에 따르면 지난해 성폭력처벌법상 허위 영상물 등의 편집 및 반포 혐의로 입건된 딥페이크 성범죄 피의자 중 10대는 829명이었다. 2023년 91명, 2024년 548명이었던 것에 비해 2년 새 크게 늘어난 것.

10대 딥페이크 피해자도 함께 늘고 있다. 국민의힘 박충권 의원실이 성평등가족부로부터 받은 자료에 따르면 2024년부터 올해 4월까지 디지털성범죄피해자지원센터에 접수된 10대 딥페이크 성폭력 피해자는 총 1057명이었다. 이런 양상에 대해 한국여성인권진흥원은 ‘2025 디지털성범죄 피해자 지원 보고서’에서 “디지털 기술 접근성과 활용 능력이 높은 세대를 중심으로 학교 커뮤니티 등에서 범죄가 다수 발생하는 것으로 보인다”고 분석했다. 실제로 올해 발생한 피해자 수를 보면 1∼2월에는 29명이었지만 개학 이후인 3∼4월에는 85명으로 늘었다.

● 딥페이크 제작 사이트, 온라인에 활개

온라인상에서 딥페이크 음란물을 만들 수 있는 사이트가 공유되고 있는 모습. 가상사설망(VPN)을 통해 접속 차단을 우회하라는 안내문구가 함께 게재돼 있다.

문제는 10대들이 온라인에 공개된 성인용 딥페이크 제작 페이지에 마음만 먹으면 제한 없이 접근할 수 있다는 점이다. 실제로 X(옛 트위터) 등에서 나체 사진 제작 AI 링크를 의미하는 키워드를 검색하자 다수의 딥페이크 사이트가 노출됐다. 한 사이트의 경우 별다른 성인 인증 없이 텔레그램을 통해 회원으로 가입할 수 있고, 사진 1장에 약 1200원을 내면 합성물을 만들 수 있었다. 온라인에는 이런 웹사이트를 이용하는 방법을 제한 없이 공유하고 있었다. 접속이 차단된 사이트에 접속하는 방법을 안내하거나 “19금 검열이 없다” 등 특정 서비스를 추천하는 글도 있었다. 성인용 딥페이크 제작 사이트 목록과 리뷰를 모아둔 웹사이트도 있었다. 애플리케이션 장터에서도 비슷한 앱이 여럿 검색됐다. 구글 플레이스토어에서 AI 딥페이크 제작 앱 12개를 다운로드해 확인해보니 제작 가능한 예시로 나체 또는 성행위 영상물이 제시돼 있었다. 이 앱들은 ‘반려 동물 영상화’ 등을 기능으로 내세웠지만 실제론 첫 화면부터 낯 뜨거운 이미지가 노출됐다. 이 가운데 6개는 이용 가능 연령이 ‘3세 이상’이었다.

전문가들은 청소년들에 대한 교육과 플랫폼 규제 강화가 동시에 이뤄져야 한다고 진단했다. 양정호 성균관대 교육학과 교수는 “학생·학부모를 대상으로 하는 AI 활용 윤리 관련 교육을 새 학기에 집중 배치하고 의무화할 필요가 있다”고 말했다. 임종인 고려대 정보보호대학원 명예교수는 “딥페이크 성범죄가 적발될 경우 강력한 민형사 책임을 묻게 된다는 점을 학생들이 알도록 해야 한다”고 강조했다.

플랫폼 사업자들에 대한 책임을 강화해야 한다는 지적도 나왔다. 이성엽 고려대 기술경영전문대학원 교수는 “플랫폼 사업자들이 단순 유통 중개를 넘어 검색 차단과 미성년자 접근 제한 등의 조치를 적극적으로 하도록 법적 의무를 강화해야 한다”고 말했다.

정동진 기자 haedoji@donga.com