"위험한 목욕습관 5가지"…SNS 퍼진 '의사의 경고' 알고보니 [이슈+]

의사처럼 말하고, 기자처럼 중계하며, 실제 존재하는 관광지처럼 설명한다. 그러나 이 모든 영상은 인공지능(AI)이 만든 가짜다.

최근 유튜브·틱톡 등 영상 플랫폼부터 사회관계망서비스(SNS)까지 온라인에서 AI로 제작된 콘텐츠가 급증하고 있는 가운데, 각종 분야에서 딥페이크 영상이 확산하면서 건강 정보 왜곡, 소비자 기만, 허위사실 유포 등 문제를 유발하고 있다.

◇ 전문가처럼 말하는 '가짜 의사'…AI가 만든 허위 건강정보

대표적인 사례는 AI로 생성된 '가짜 의사 영상'이다. 백발의 의사 이미지가 등장해 "매일 목욕하면 죽는다", "막걸리를 마시면 장수한다" 등 의학적 근거 없는 내용을 전문가처럼 전달한다.

심지어 "89세 김씨 할아버지의 장수 비결은 막걸리"라며 인터뷰까지 등장하지만, 이 역시 등장인물과 대사 모두 AI가 생성한 허구다.

이 같은 영상은 도입부와 말미에 "'좋아요'와 '구독'을 눌러달라"며 조회수 기반 광고 수익을 유도한다. 실제로 해당 영상들은 수십만 회 이상 재생되며 온라인상에서 빠르게 영향력을 확대하고 있다.

영상 하단에는 "본 영상은 일반적인 건강 정보 제공을 위해 제작된 콘텐츠로, 등장하는 사례와 인물은 교육적 목적을 위해 각색되었다. 교육 목적이며 책임은 개인에게 있다"는 고지문이 붙어 있지만, 이는 본문 하단 깊숙이 자리 잡고 있어 대부분의 시청자가 이를 인지하기 어렵다.

AI 딥페이크 영상은 장례 정보나 사후 처리 등 민감한 분야로까지 확산하고 있다. 예컨대 "집에서 사망해 119를 부르면 경찰에 바로 신고돼 절차가 복잡해진다. 장례업체나 장례식장에 먼저 연락해야 한다"는 등 불확실한 정보를 제공하는 유튜브 채널도 있다.

◇ 7월 대지진 예언 적중?…재난 뉴스까지 조작

심지어 재난 뉴스조차 딥페이크 영상으로 만들어지고 있다. SNS상에서는 일본의 7월 대지진을 예언한 보도가 사실이었다는 주장을 담은 영상이 퍼지고 있다. 영상에는 일본과 한국의 기자가 등장해 건물이 무너지고 피난을 권유하는 모습이 담겼으며 "한국도 영향권"이라는 자막까지 포함됐다. 해당 영상은 1만 회 이상 공유됐다.

국내에서도 지난주 극한 호우로 피해가 집중되던 시기, 유튜브와 틱톡에는 경복궁이 침수됐다는 영상이 다수 올라왔다. 당시 '장마', '폭우', '태풍' 등의 키워드로 검색하면 영상 생성 AI 'Veo3'로 만든 콘텐츠 수십 개를 확인할 수 있었다. 한 영상 속 남성은 노란 우비를 입고 "경복궁이 물에 잠겼다"며 현장 중계를 하고, 이어 물개가 궁내를 수영하는 장면까지 등장한다. 뒤이어 여성도 등장해 물에 잠긴 서울 한복판에서 고양이가 수영 중이라며 생중계를 이어간다.

일각에서는 어떤 게 진짜인지 분간하기 어렵다는 호소까지 나온다. 최근 AI 딥페이크 영상이 언론까지 혼란에 빠뜨린 사례도 나왔다. 최근 수도권에 대량 출몰한 '러브버그'에 대해 일부 방송사는 "참새가 천적으로 등장했다"며 AI로 생성된 생태 영상을 그대로 인용해 보도했다.

영상에는 수만 마리의 참새 떼가 러브버그를 포식하는 비현실적인 장면이 담겨 있었으며, 구글 딥마인드의 'Veo' 워터마크까지 선명히 찍혀 있었지만, 방송사는 실제와 같은 영상 탓에 별다른 검증 없이 이를 그대로 보도했다. 시청자들 사이에서는 "이제는 AI 영상에 언론도 휘둘리는 시대"라는 비판이 나오기도 했다.

해외에서는 이러한 가짜 영상으로 인해 직접적인 피해를 본 이도 나왔다. 말레이시아에서는 한 노부부가 '콰크 스카이라이드'라는 케이블카를 타고 산과 숲을 구경하는 관광 홍보 영상을 믿고 3시간을 운전해 현장까지 갔지만, 해당 관광지는 실제 존재하지 않는 곳이었다.

지난 10일 홍콩 사우스차이나모닝포스트(SCMP)에 따르면, 부부는 AI로 생성된 케이블카 소개 영상을 보고 말레이시아 페락주 호텔까지 이동했으나, 현지 호텔 직원은 "그런 장소는 없다"고 답했다. 이에 분노한 아내는 "영상 속 기자를 고소하겠다"고까지 말했다.

해당 영상은 논란 이후 삭제됐지만, 온라인상에서는 "어르신들은 물론 젊은 층도 충분히 속을 수 있다"는 우려가 이어지고 있다.

◇ 늘어나는 딥페이크 신고…AI 리터러시 중요성↑

전문가들은 AI·딥페이크 영상의 남용이 점차 보이스피싱, 연애 빙자 사기 등 실질적인 피해로 확산되고 있다고 우려한다. 한국형사·법무정책연구원에 따르면, 딥페이크 관련 경찰 신고 건수는 2021년 156건에서 지난해 964건으로 6배 이상 증가했으며, 올해도 증가세가 뚜렷하다.

최병호 고려대 AI연구소 교수는 "AI 영상의 진위 여부를 사람이 판단하는 것은 점점 더 어려워질 것으로 본다. 단순한 이슈화만으로도 진실이 묻히는 노이즈 마케팅의 형태가 되기 때문에, 진실을 확인할 수 있는 기술적 솔루션이 반드시 필요하다"면서도 "AI 리터러시 캠페인이 국가와 기업 차원에서 진행돼야 한다"고 강조했다.

유지희 한경닷컴 기자 keephee@hankyung.com