[HBR 인사이트]AI에 맡긴 혁신, 아이디어 닮아가고 현장 멀어진다

게티이미지뱅크 오늘날 조직 내 혁신팀은 대부분 동일한 인공지능(AI) 모델과 유사한 프롬프트를 활용해 업무를 한다. 그러나 성과는 엇갈린다. 어떤 팀은 창의적인 아이디어를 쏟아내지만, 다른 팀은 마치 한 사람이 내놓은 듯 획일적이고 기억에 남지 않는 아이디어만 생산한다. 미국 하버드대, 펜실베이니아대 와튼스쿨, 노스웨스턴대, 컬럼비아대 소속 연구진은 최근 생성형 AI와 혁신에 관한 실증연구들을 종합적으로 검토했다. 왜 같은 AI 모델을 사용했는데도 혁신을 가로막는 병목 현상이 생기는지 살펴본 것이다. 그 결과 의도적이고 신중한 재설계 없이 생성형 AI가 단순하게 사용될 경우 혁신의 병목이 오히려 심해질 수 있는 것으로 나타났다. 원인은 기술 자체보다 이를 활용하는 인간에 있었다. 생성형 AI는 혁신의 각 단계마다 장애물을 키울 수 있다. 먼저 아이디어 구상 단계에서 별다른 설계 없이 거대언어모델(LLM)과 함께 브레인스토밍을 하면 두 가지 현상이 동시에 나타난다. 모델 자체가 통계적으로 전형적인 답변을 내놓고, 사람들은 그 전형적인 답변에 생각이 고착된다. 유사한 학습 데이터를 기반으로 하는 생성형 AI 모델을 쓰다 보면 서로 다른 기업의 팀들도 비슷한 아이디어에 도달하기 쉽다. 개인의 생산성은 높아지더라도 집단 전체의 아이디어 다양성은 낮아질 수 있다는 뜻이다. AI가 작성한 초안을 사람이 더 대담하고 독창적인 방향으로 수정하는 방법도 있다. 하지만 일단 AI가 처음 제시한 아이디어에 생각이 고착되면 “좀 더 폭넓게 생각하라”는 주문만으로는 벗어나기 어렵다. 둘째, 심사 단계에서 생성형 AI는 매끄럽게 정리된 아이디어를 선호하는 편향을 강화할 수 있다. 독창적인 아이디어는 위험이 크고 시장 진입도 어려워 보이기 때문에 심사위원회는 무의식적으로 안전하고 익숙한 제안에 더 높은 점수를 준다. AI가 만든 제안서는 구조적으로 유창하고 잘 구성돼 있다. 이런 유창성은 종종 높은 품질로 오인된다. 셋째, 소비자를 이해하는 단계에서 생성형 AI는 조사를 빠르게 해주지만 실제 소비자 답변의 진정성을 떨어뜨릴 수 있다. 가령 AI로 소비자 반응을 시뮬레이션하면 가격 변동의 의미를 잘못 해석하곤 한다. 같은 제품의 가격이 올랐을 뿐인데도 이를 품질이 더 좋은 프리미엄 제품이라는 단서로 받아들이는 것이다. 실제 사람들의 행동정보를 바탕으로 구축한 AI 페르소나인 ‘디지털 트윈’은 이런 문제를 완화하기도 한다. 다만 현재 디지털...