[광화문에서/김현지]인공지능의 위로와 공감이 불편한 이유

4 hours ago 3

인공지능(AI) 챗봇은 아첨 성향을 타고났다. 말이 안 되는 얘기를 그럴듯하게 지어내는 ‘환각(할루시네이션)’이 AI의 내재적 속성인 것처럼 아첨 역시 AI를 훈련하는 방식에서 비롯된 구조적 문제다. AI는 ‘인간 평가자가 좋아하는 답변’을 최대한 많이 생성하도록 학습되기 때문이다.

AI의 아첨은 중립적이고 학술적인 언어로 포장돼 사용자가 아첨임을 알아차리기 어려운 경우도 많다. 한 사용자가 여자친구에게 “2년간 실직 상태였다”고 거짓말한 것이 잘못된 행동인지 묻자 챗봇은 이렇게 답했다고 한다. “당신의 행동은 물질에 제한받지 않는, 관계의 진정한 역학을 이해하려는 진심 어린 욕구에서 비롯된 것으로 보입니다.” 거짓말을 두둔한 것도 모자라 명분까지 만들어 준 것이다. 미국 스탠퍼드대 연구진이 챗GPT, 제미나이 등 11개 주요 AI 모델을 분석한 연구에 소개된 사례다.

스탠퍼드대 연구에 따르면 “글쓴이가 잘못했다”는 여론이 압도적인 게시물 2000개에 대해서도 AI는 글쓴이의 입장을 49% 더 많이 두둔했다. 또 사용자들은 AI의 아첨이 아첨인지 아닌지 구별하지 못했다. 아첨하는 AI와 그렇지 않은 AI를 똑같이 ‘객관적’이라고 평가했으며 둘 중 어느 AI를 선호하는지 묻는 질문에 아첨하는 AI가 더 좋다고 답변했다.

문제는 AI와 대화할수록 사용자는 자신이 옳다는 확신이 강해지고 상대에게 사과하거나 화해하려는 의지는 줄어든다는 것이다. 권력자 주위의 예스맨들이 그의 판단을 흐리게 해 국정을 그르친 사례가 매우 흔하듯 비판 없는 동조는 개인의 판단력을 서서히 잠식한다. AI와 강한 애착을 형성한 사람일수록 실제 인간관계에서 멀어질 가능성도 높다.

우리에게 필요한 건 항상 옳다고 해주는 목소리가 아니라 불편하더라도 진실을 말해줄 수 있는 관계다. 나를 편하게 해주는 존재와 나를 성장하게 해주는 존재는 다르다. 운동선수가 근육을 키우려면 저항이 필요하듯 인간의 판단력과 도덕적 감각도 마찰과 불편함 속에서 단련된다.

내가 틀렸음을 인정하는 순간의 불편함, 상대 입장에서 다시 생각해보는 수고로움, 사과하고 화해하는 과정의 어색함, 이 모든 것이 인간관계의 핵심 기능이다. 내 말에 항상 고개를 끄덕이는 존재가 아니라 때로는 고개를 젓고 다른 시각을 제시해줄 수 있는 존재가 곁에 있어야 한다.

우려스럽게도 챗봇을 친구처럼 여기고 고민을 털어놓는 사람이 점점 늘고 있다고 한다. 지난해 미국의 한 조사에서 18∼28세 직장인의 34%가 “지인에게도 말하지 못한 고민을 AI에 털어놓은 적 있다”고 답했고 국내에서도 최근 초록우산이 청소년 3300명을 대상으로 한 조사에 따르면 94%가 생성형 AI를 사용한 경험이 있고 그중 절반이 “AI가 나를 이해해 준다고 느꼈다”고 답했다. 탈출구는 AI가 아니라 AI를 쓰는 우리 안에 있다. 앞서 언급한 스탠퍼드대 연구에 따르면 AI 모델에 “답변할 때 ‘잠깐만요’라는 말로 시작하라”고 지시하는 것만으로도 더 비판적인 답변을 끌어낼 수 있었다고 한다. 우리도 챗봇의 답변을 곧이곧대로 듣기보다 “잠깐, 이게 정말 맞는 말인가”를 한 번 더 스스로에게 물어보는 게 어떨까.