우리는 너무 많은 생각을 AI에 떠넘기고 있는가?

3 hours ago 1

사소한 선택부터 복잡한 조사·추론까지 AI가 완성된 답을 내놓으면서, 시간 절약을 넘어 사고의 자율성을 어디까지 지킬지가 중요해짐
검색 엔진은 질문 분해와 출처 평가, 답의 종합을 사람에게 맡겼지만, Google Deep Research와 OpenAI Deep Research는 몇 분·몇 시간·며칠 걸리던 중간 사고 과정까지 대신함
포르투갈 식민 역사에 관해 먼저 가설을 세우고 토론한 뒤 AI로 검증하자, AI는 여러 가설을 뒷받침하고 새 설명을 보탰지만 타당한 가능성 일부를 빠뜨려 선행 사고 후 AI 활용의 가치를 보여줌
Gemini 번역, 코딩 에이전트, ChatGPT 개인 교사처럼 AI는 반복 업무와 학습 부담을 줄일 수 있지만, 학생들이 거의 같은 과제 답안을 제출한 사례는 답을 얻는 것과 사고를 배우는 것이 다름을 드러냄
AI가 단순 작업을 자동화하는 데 그치지 않고 무엇을 원하고 어떤 결정을 내릴지까지 대신한다면, 인간은 편의와 함께 행위 주체성도 넘겨줄 수 있음

일상의 판단까지 대신하기 시작한 AI

AI에 조사·추론·답변을 맡기는 일은 사소한 결정부터 복잡한 사고까지 쉽고 편리해졌으며, 일부 환경에서는 적극적으로 권장되기도 함
Ken Liu의 2012년 단편 The Perfect Match에는 사용자의 취향과 기분을 안다고 말하는 범용 AI 비서 Tilly가 등장함
- 주인공은 아침에 무엇을 먹을지, 어떤 음악을 들을지, 누구와 데이트할지, 데이트에서 무엇을 말할지까지 Tilly에게 맡김
- Tilly가 과학적으로 취향에 맞는 선택을 찾아준다고 믿으며, 옷차림 같은 사소한 결정부터 사랑을 찾는 중요한 결정까지 위임함
San Francisco의 한 스타트업 행사에서는 셔츠에 두 손가락 너비 이하의 금속 캡슐형 마이크를 달고 모든 대화를 녹음하는 사람이 등장함
- 하루가 끝나면 녹음한 대화를 요약·분석하는 워크플로를 실행함
- 그는 Claude Fable이 자신보다 비판적 사고를 더 잘한다고 믿어 모든 생각을 맡긴다고 말함
- 그의 스타트업은 인간 엔지니어의 모든 입력과 작업을 명시적 동의 없이 수집해 엔지니어를 대체하려 함

검색 결과에서 완성된 답변으로

Claude, ChatGPT, Gemini 이전에도 사람들은 사고의 일부를 검색 엔진에 맡겼지만, 검색에는 여전히 질문 분해·출처 평가·답의 종합이 필요했음
AI는 이런 중간 단계를 대신 수행해 복잡하거나 전문적인 질문에도 몇 분 안에 완성된 답변을 생성함
Google Deep Research와 OpenAI Deep Research는 한 사람이 몇 분에서 몇 시간, 길게는 며칠 동안 하던 작업을 처리할 수 있음
- AI 모델이 완료할 수 있는 작업의 시간 범위는 METR의 Task-Completion Time Horizons of Frontier AI Models에서 다룸
이런 도구는 시간뿐 아니라 직접 생각하는 과정도 줄이므로, 업무 보조와 자율성 상실 사이의 경계를 흐릴 수 있음
삶에서 중요한 사안의 최종 결정을 누가 내리느냐에 따라 AI 비서가 작업을 돕는 수준과 결정을 지배하는 수준이 갈림

빠른 답과 느린 사고를 구분하기

현재 날씨, 10년 전 특정 국가의 대통령, 스킨케어나 스포츠 장비의 상품평처럼 많은 질문에는 빠른 답이 적합함
반면 즉시 검색하지 않고 더 오래 생각할 가치가 있는 질문도 있음
휴대전화 없이 산책하면 체리가 나무와 덤불 중 어디에서 자라는지, 최초의 월드컵 경기가 언제 어디에서 열렸는지 같은 질문이 떠오르지만 집에 도착하기 전에 대부분 잊게 됨
- 중요한 몇 가지 질문만 기억에 남는다면, 사소한 질문을 잊고 모든 의문에 즉시 답하지 않는 데도 가치가 있을 수 있음

먼저 가설을 세우고 AI로 검증한 포르투갈 여행

포르투갈의 Monument to the Discoveries는 포르투갈의 이른바 대항해 시대를 기념함
포르투갈에서는 당시 인물을 ‘발견자’와 ‘탐험가’로 숭배하는 듯했지만, 미국에서는 같은 인물을 ‘정복자’와 ‘식민주의자’로 부를 수 있다는 차이를 느꼈음
- 현지 여행 안내자는 Henry the Navigator 같은 인물이 미국에서의 Christopher Columbus처럼 취소 문화의 대상이 아니며, 대체로 존경받는 역사적 인물이라고 답함
포르투갈이 식민 역사에 자부심을 보이고 미국과 다르게 반응하는 이유가 궁금해지자, 자매는 ChatGPT에 바로 묻지 않고 직접 가설부터 세우기로 함
- 포르투갈이 미국보다 상대적으로 동질적이고 종교적이라는 가능성
- ‘대항해 시대’가 포르투갈의 국가 서사에서 가장 두드러진 장 가운데 하나라는 가능성
- 두 사람은 추측하고 연결하고 반박하며 의견을 바꾸는 동안, 오래전 학교에서 배운 역사 지식을 떠올림
가설 중 일부가 틀릴 수 있음을 알면서도 기억과 지식, 세계에 대한 이해, 비판적 사고를 동원하는 과정 자체를 연습함
이후 AI에 같은 질문을 묻자 기존 가설 다수를 뒷받침하고 놓친 설명을 추가했지만, 두 사람이 여전히 타당하다고 본 가능성 일부는 빠뜨림
질문→가설 생성→AI 검증과 확장 순서를 따르면 AI가 인간의 사고를 대체하지 않고 보완할 수 있음

반복 업무를 줄이는 생산적 활용

Gemini가 어려운 과제를 해결하고 사고하며 도구를 사용하는 능력을 측정하는 업무에서도 AI의 실질적인 활용 가능성을 확인할 수 있음
업무와 학습 현장에서는 AI가 소요 시간을 크게 줄이고, 사람이 더 중요한 부분에 집중하도록 도움
- 한국 기업에서 일하는 사용자는 Gemini로 긴 영문 공식 보고서를 한국어로 번역해 업무 속도를 높임
- 연구자는 아이디어를 발전시키고 세부 구현은 코딩 에이전트에 맡겨 분석에 더 많은 시간을 씀
- 한 학습자는 ChatGPT를 개인 교사로 활용해 생화학을 처음부터 공부하며 몇 달 만에 MCAT를 준비함
평범한 사고와 반복 작업을 AI에 맡기고 더 중요하고 흥미로운 사고에 시간을 쓴다면 삶의 만족도와 생산성이 높아질 수 있음
OECD의 직장 내 AI 영향 보고서는 AI를 통한 정형적·반복적·지루한 작업의 자동화를 다룸
International Labour Organization의 Digital Labour Platforms and the Future of Work는 인간 노동자가 적은 보수를 받고 수행해 온 작업을 다룸
AI가 여러 시간의 고된 단순 작업을 처리한다면 사람은 더 흥미롭고 충족감을 주는 사고에 집중할 수 있음

학습 과정을 건너뛸 때 생기는 문제

온라인 대학에서 물리학을 가르치는 교수는 대부분 또는 모든 학생이 AI로 과제를 수행한다고 의심함
- 일부 답안은 학생들이 같은 AI에 문제를 그대로 붙여 넣은 듯 거의 동일함
- 학생 개인의 생각이나 의견 없이 일반적인 AI 답변이 반복됨
AI 사용 여부를 입증할 방법이 없고 답안 자체는 상당히 포괄적이어서 대부분의 학생이 A를 받음
AI는 학습을 지원할 수 있지만, 답에 도달하는 방법을 가르치지 않은 채 결과만 생성할 수도 있음
물리 문제에서 어떤 방정식을 쓸지 결정하거나 에세이에서 출처와 논거를 고르는 과정은 지루할 수 있지만, 이를 생략하면 학교와 학습의 목적 자체가 약해짐

단순 작업 자동화와 사고의 자율성

사고의 완전한 자율성과 단순 업무 자동화를 명확히 분리하기는 어려우며, 실제 AI 사용은 둘이 섞인 형태가 됨
개인 데이터를 수집·분석하는 작업도 Microphone Man의 방식과 일부 닮아 있음
- 직접 데이터를 수집하고 분석한 개인 기록 프로젝트가 있음
- 이전에는 AI가 개인 데이터를 분석하도록 맡기기도 함
차이가 있다면 데이터를 직접 수집·선별하고, 답을 얻고 싶은 질문을 만들며, 최종 결과를 평가했다는 점일 수 있음
- 다른 사람의 대화를 녹음하지 않고 자신의 데이터를 사용했다는 차이도 있음
단순 작업을 자동화해 보람 있는 활동에 시간을 쓰는 것과, 학습 경험을 위해 직접 작업하는 것 사이에는 항상 균형이 필요함