“늑구 복귀 2주 만에 그림책이?” 독자들이 먼저 문제 삼은 AI 출판

그림책 ‘늑구의 꿈’에 갑론을박
출판사 “그림 AI 도움받아 그려”
국내외 독자들 ‘AI 판독 탐정’ 나서
AI ‘딸깍 출판’ 오류-허위정보 많아
“독자와 출판사 신뢰 회복이 관건”

“늑구가 상품화될 거라는 건 예상했지만, 이렇게 AI(인공지능)로 그림책을 만들어 파는 건 선 넘었다.”(아이디 ‘호랑이’)

“‘늑구의 열흘간의 대모험’ 저도 제미나이가 글 써줬어요! 저도 출간할래요!”(아이디 ‘파천’)

지난달 30일 그림책 ‘늑구의 꿈’이 출간되자 한 온라인 서점엔 이런 후기들이 잇달아 올라왔다. 동화 속 ‘늑구’는 최근 대전 오월드에서 탈출했다가 돌아온 그 늑대가 맞다. 지난달 17일 생포되고 13일 만에 실화를 바탕으로 한 그림책이 나오자, 뿔난 독자들은 온라인서점 홈페이지와 소셜미디어 등에 낮은 별점과 항의 댓글을 달았다. 실제로도 해당 그림책이 이례적으로 빠른 출간을 할 수 있었던 건 그림 제작 과정에서 생성형 AI를 활용했기 때문이다. 하지만 책에 AI를 이용했다는 걸 별도로 고지하지 않았다는 점도 독자들의 원성을 샀다.

● ‘AI 판독 탐정’ 나선 독자들

출판계 안팎에선 그림책 ‘늑구의 꿈’ 논란을 AI 시대 달라진 독자들의 모습을 보여주는 상징적 사건으로 보고 있다. 최근 AI로 만든 ‘딸깍 출판’이 늘어나자 독자들이 직접 나서 이를 선별하기 시작했다. 이른바 ‘책을 고르는 기준’이 바뀌고 있는 셈이다. 예를 들어, 독자들은 출간 시점부터 역산해 작업 시간을 추정한 뒤 “사람이 이 시간에 만들 수 있나” “창작자의 노동이 실제 있었나” 같은 의문을 던지고 있다. 더 나아가 책의 완성도는 물론이고 “AI를 어디까지 썼는지 밝혀 달라”며 ‘AI 라벨링’을 요구하기도 한다.

‘늑구의 꿈’을 낸 출판사 측은 동아일보와의 통화에서 “저자가 글은 직접 쓰고, 그림은 AI의 도움으로 만들었다. 이후 편집부 디자이너가 전체적인 톤에 맞춰 여러 차례 수정했다. 일각에서 지적하듯 ‘딸깍’ 만든 책은 아니다”라고 설명했다. 책에는 ‘저자 OOO 글·그림’으로 표기됐고, 온라인 서점에도 “OOO가 그린 첫 창작동화”라고 소개돼 있다. AI 활용을 명시한 부분은 없다.

일각에선 처음부터 AI 활용 여부와 개입 범위를 공개했더라면 논란이 커지지 않았을 것이라는 반응도 나온다. 실제로 최근엔 ‘제미나이 글·△△△ 감수’ ‘챗GPT 그림’처럼 AI를 어디에 썼는지 서지정보에 표기하는 사례도 늘고 있다. 장은수 출판평론가도 “서문이나 판권면 또는 인터넷서점 페이지에 AI 활용 여부를 밝혀야 독자의 선택권을 보장할 수 있다”고 했다.

해외에서도 독자들이 집단 검증을 통해 ‘AI 흔적’을 찾아내는 일이 늘고 있다. 올 3월 미국 대형 출판사 아셰트 북 그룹은 공포소설 ‘샤이 걸’의 미국 출간을 취소하고 영국 유통도 중단했다. 세계 최대 독서 커뮤니티 ‘굿리즈’와 유튜브, 레딧 등에서 독자들이 “AI 흔적이 강하다”고 문제를 제기한 뒤 논란이 커지자 출판사가 내부 검토 끝에 철회를 결정했다. ‘샤이 걸’ 작가 미아 밸러드는 AI 집필 의혹을 부인하면서도 “프리랜서 편집자가 AI를 사용했다”고 주장했다.

‘굿리즈’엔 AI 생성물로 의심되는 책들을 공유, 분석하는 리스트와 토론방이 잇따라 만들어지고 있다. 독자들은 AI 특유의 문체나 어색한 표지 이미지, 비정상적으로 빠른 출간 속도 등을 근거로 의심 사례를 정리한다. ‘계속 출간되는 AI 슬롭 책들’ 같은 목록을 만들어 올리기도 한다. 독자들이 ‘AI 흔적’을 추적하는 집단 탐정의 역할을 자처하고 있는 셈이다.

● AI ‘딸깍 출판’ 범람에 위기감 고조

이처럼 독자들이 책의 창작 과정을 검증하기 시작한 건 출판 시장에 생성형 AI를 활용한 저품질 콘텐츠가 무분별하게 늘고 있기 때문이다.

인공지능(AI)으로 순식간에 책을 만드는 법을 안내하는 유튜브 채널들. 유튜브 화면 캡처인공지능(AI)으로 순식간에 책을 만드는 법을 안내하는 유튜브 채널들. 유튜브 화면 캡처

특히 전자책 제작은 해외에서 일반인도 뛰어드는 ‘AI 부업’처럼 확산되고 있다. 유튜브와 틱톡 등 소셜미디어엔 생성형 AI를 활용해 전자책을 대량 생산하는 방법을 소개하는 콘텐츠가 범람한다. ‘1시간 안에 수익성 있는 전자책을 만드는 방법(How to Build a PROFITABLE KDP Book in UNDER 1 Hour)’ ‘AI를 활용해 아마존에서 판매할 어린이책 만들기(Create a Children‘s Book to Sell on Amazon KDP Using AI)’ 같은 제목의 영상들이 숱하다. 베스트셀러 키워드 분석부터 원고 생성, 표지 제작, 아마존 업로드까지의 과정을 단계별로 안내한다. 특히 일론 머스크 테슬라 최고경영자(CEO)나 팝스타 테일러 스위프트 같은 유명인의 아동 전기나 구조가 단순하고 검색량이 높은 색칠공부책 등이 주요 타깃이 된다.

‘딸깍 출판’이 늘다 보니 명백한 오류와 허위 정보까지 포함된 사례도 잇따르고 있다. 영국 일간 가디언에 따르면 온라인 서점 아마존엔 생성형 AI가 쓴 것으로 의심되는 주의력결핍과잉행동장애(ADHD) 관련 가이드북이 여러 권 올라와 있다. ‘성인 ADHD 남성: 집중력·시간 관리·불안 극복을 위한 매우 효과적인 기법’ ‘성인 ADHD 남성을 위한 식단 및 운동’ 같은 책들이다.

가디언이 AI 콘텐츠 탐지 업체에 의뢰해 8권의 샘플을 분석했더니, 모든 책이 ‘AI 탐지 점수 100%’를 기록했다. AI에 의해 작성됐을 가능성이 매우 높다고 판단된 것이다. 당연히 책에는 부정확하거나 과장된 내용이 상당수 포함됐다.

AI ‘딸깍 출판’은 국내 출판 시장에도 이미 깊숙이 들어와 있다. 한 출판사는 최근 1년 동안 전자책 7311권을 출간했다. 일일 평균 20권꼴로, 하루 만에 최대 78권을 펴내기도 했다. 분야도 인문·사회부터 과학·기술까지 망라한다. 저자명은 대부분 ‘OO팀’ 등으로 표기돼 있다. 기본적인 사실 관계가 틀리거나 고전을 번역하며 역자와 원전을 표기하지 않은 사례도 있었다.

AI를 활용한 저품질 콘텐츠가 빠르게 늘면서 국가 지식정보 관리 체계에도 과부하가 걸리고 있다. 국립중앙도서관에 따르면 최근 2년간(2024∼2025년) 품질 미달 등의 사유로 납본이 반려된 전자책은 1만1651건에 이른다. 전자책 납본 자체가 급증하면서 관련 보상금 부담도 커졌다. 납본 보상금 지급 규모는 2016년 1212만9270원에서 지난해 2억6276만720원으로 22배 가까이 늘었다.

● 신뢰 회복 위한 출판계의 고민

출판계에선 업계가 선제적으로 가이드라인을 마련하고 AI ‘딸깍 출판’을 걸러내야 한다는 목소리가 힘을 얻고 있다. 책은 오랫동안 시간과 노력의 산물로 여겨져 온 만큼, AI를 활용해 대량 생산한 콘텐츠가 인간 저자의 고유한 노동처럼 포장될 경우 독자들이 위화감과 배신감을 느낀다는 지적이다.

윤성훈 클레이하우스 대표(한국출판인회의 AI미래전략위원장)는 “독자들로부터 신뢰성을 유지하기 위해서라도 저자와 출판사는 투명성을 더 확보할 의무가 있다”며 “AI 시대의 출판사는 최초의 검증 주체가 돼야 한다”고 말했다.

일각에선 “이 책은 인간이 직접 만든 책입니다”라고 ‘무(無)AI 인증’을 하려는 움직임도 나타나고 있다. 마치 유기농이나 수공예 인증처럼 인간 창작 자체를 일종의 ‘프리미엄 가치’로 내세우려는 시도다. 지난달 출판사 커뮤니케이션북스는 국내 최초로 “출판물에 인간 저작을 보증하는 마크를 도입하겠다”고 밝혔다. 이 마크를 받으려면 저자는 ‘AI가 생성한 문장을 그대로 사용하지 않는다’ ‘AI 활용 사실을 은폐하거나 독자를 오인하게 하지 않는다’ 등의 내용이 담긴 윤리 서약서에 서명해야 한다.

AI를 사용하되, 활용 내역을 공개하는 방식도 대안으로 거론된다. AI를 무조건 막는 게 능사는 아니라는 판단이다. 최근 광고나 영상 콘텐츠엔 “생성형 AI를 활용해 제작했습니다” 같은 안내 문구를 붙이는 사례가 늘고 있고, 이용자들도 점차 익숙해지고 있다. 책 역시 제작 과정의 일부를 공개할 수 있다. 예컨대 “표지 이미지에 생성형 AI 활용” “텍스트 초안 작성에 AI 보조 사용” “인간 저자 최종 집필 및 감수”처럼 AI 개입 범위를 공개하는 방식이다.

표정훈 출판평론가는 “출판사나 출판 단체, 관련 기관 차원에서 AI 활용 여부를 밝히는 방향의 권장 조항을 마련할 필요가 있다”며 “‘이 경우에는 이렇게 표시하면 된다’는 기준을 제시해주면 생산자 입장에서도 오히려 마음이 편하고, 소비자도 안심하고 책을 고를 수 있을 것”이라고 말했다.

독자와 창작자 스스로 어느 선까지가 책임 있는 활용인지 감각을 형성해가는 과정이 중요하다는 의견도 나왔다. 표 평론가는 “독자들도 ‘이 책은 선을 넘었다’고 판단하고 걸러낼 수 있어야 하고, 창작자 역시 꼭 규제 때문이 아니라 스스로의 성실성과 책임감 속에서 작업하려는 태도가 중요하다”며 “출판의 신뢰는 제도만으로 만들어지는 게 아니라 이 같은 사회적 감각 속에서 형성된다”고 덧붙였다.

김소민 기자 somin@donga.com
김도연 기자 repokim@donga.com

© dongA.com All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지