[DBR]AI發 ‘죽은 완벽함’의 시대, 다시 인간을 생각하라

AI에 인간 주체성 빼앗기는 ‘인지적 항복’ 막으려면 ESG에 ‘인간(Human)’ 더해 함께 생각하는 조직 만들어야 게티이미지뱅크 인공지능(AI)이 가져온 진짜 위기는 일자리 소멸이나 경제적 불평등 같은 표면적 현상 너머에 있다. 인간의 인지 체계와 사유의 습관 자체가 AI에 종속되는, 이른바 ‘생각의 멸종’이다. 기계가 인간처럼 생각하기 시작한 시대에 정작 인간은 기계처럼 사고하거나 아예 생각하기를 멈추는 역설이 나타나고 있다. AI가 촉발한 사유의 위기를 진단하고 인간의 생각하는 힘을 지킬 해법을 모색한 DBR(동아비즈니스리뷰) 8월 1호(446호) 스페셜리포트의 주요 내용을 소개한다.● ‘생각의 멸종’과 인지적 항복 위기의 징후는 지식의 최전선인 대학에서 먼저 나타나고 있다. 매사추세츠공대(MIT)에서 소설 창작을 가르치는 마이카 네이선 교수는 학생들이 글쓰기라는 부담을 AI로 몇 초 만에 해결하는 현실을 목격하고, 고뇌 없이 출력된 글을 영국의 시인 앨프리드 테니슨의 시구를 빌려 ‘죽은 완벽함(Dead Perfection)’이라 불렀다. 흠 없이 매끄럽지만 개인의 구체적 경험에 뿌리내리지 못한 채 사유의 형태만 흉내 냈다고 본 것이다. 첫 문장을 고쳐 쓰고 논리가 막혀 헤매는 필수적인 훈련의 시간이 사라지면 그 시간 동안 단련돼야 할 사고의 근육도 함께 퇴화한다. 기업의 사무실 풍경도 다르지 않다. 구성원은 프롬프트로 매끄러운 보고서를 뽑아내고 관리자는 요약 도구를 돌려 이를 평가한다. 일련의 과정은 까다로운 업무를 기계에 맡기고 도구에 의존하는 ‘인지적 위임’에서 시작하지만, 편리함이 반복되고 기계의 답을 검증 없이 정답으로 믿어버리게 되면서 점차 기술 권력에 주체성을 완전히 박탈당하는 ‘인지적 항복’으로 변질된다. 미국 펜실베이니아대 와튼스쿨 연구진의 실험이 이를 뒷받침한다. AI의 조력을 받은 그룹은 인간의 즉각적인 오류와 숙고 능력을 측정하는 인지반사 테스트(CRT)에서 혼자 문제를 푼 대조군을 압도했다. 그러나 연구진이 AI 답변에 그럴싸해 보이는 오답과 환각을 심어두자 피실험자의 약 80%가 오류를 검증하지 않고 그대로 수용했다. 더 심각한 것은 이들이 자신의 결론에 더 강한 확신을 보였다는 점이다. AI의 유창한 능력이 개인에게 잘못된 확신까지 심어준 셈이다.● 지식 광장의 붕괴와 ‘합스부르크 AI’ 개인의 항복은 사회 전체의 지식 생태계를 흔든다. 과거 지식 노동자들은 문제에 부딪히면 커...