“AI가 모르는 ‘감정이 중요한’ 인간의 마음, 금융AI는 본성 포용해야”

KB금융 경영연구소 KB지식 비타민
자율주행 시대 핸들을 원하는 ‘핸들의 역설’
AI가 모르는 인간의 마음 ①알고리즘 회피
②심리적 소유감 소비 ③합리성+감정 확신 추구
“금융 AI 경쟁력은 인간 본성에 대한 ‘깊이’로 결정”

자료=KB금융지주 경영연구소

[이데일리 김나경 기자] 금융사들이 앞다퉈 “우리는 인공지능(AI) 회사”라며 AI 기술을 고도화하고 있는 가운데 AI가 잘 읽지 못하는 ‘소비자에 대한 공감력’이 금융 AI 서비스 경쟁력을 좌우할 것이란 전망이 나왔다.

17일 양혜정 KB금융지주 경영연구소 연구위원이 작성한 ‘AI는 모르는 인간의 마음’이라는 KB지식 비타민 보고서에 따르면 금융 기술이 상향 평준화되는 시대 금융 서비스의 경쟁력은 기술 수준이 아니라 인간 본성에 대한 이해와 포용의 깊이로 결정될 수 있다.

AI가 모르는 인간의 마음이란 요컨대 알고리즘을 무작정 믿기보다는 신뢰 기반의 선택을 하고, 주체적인 선택을 선호하며, 합리성 뿐 아니라 감정의 확신을 통해 상품(서비스)을 최종 선택하는 것이다. 이를 설명하는 것이 핸들의 역설이다. 이제 핸들이 필요 없는 완전 자율주행 단계에 이르렀지만 소비자의 86%는 여전히 핸들을 원한다. 이같은 핸들의 역설은 AI가 데이터와 패턴을 분석하는 데 탁월하지만 인간의 비합리적 선택 이면에 숨겨진 복잡한 정서와 의사결정 기제를 완벽히 이해하지 못한다는 걸 보여준다.

양혜정 연구위원은 인간의 마음은 ‘알고리즘 회피’ 성향이 있다고 짚었다. 그는 “AI 모델의 내부 작동 방식을 이해하기 어렵다는 점은 사용자가 알고리즘을 회피하게 만들고, AI는 완벽해야 한다는 높은 기대는 작은 오류가 났을 때 AI 시스템 전체에 대한 신뢰도 하락으로 이어진다”며 “알고리즘에 대한 부정적인 인식으로 인해 AI의 조언이나 권고를 거부하는 경향을 보인다”고 설명했다.

금융소비자들이 상품과 서비스를 선택할 때 ‘자기효능감’과 ‘심리적 소유감’을 중요시하는 것 또한 AI가 이해하지 못하는 사람의 영역이다. 양혜정 연구위원은 “금융 서비스에서 주체적 경험은 고객에게 안도감과 자기효능감을 주는 핵심 기제인 동시에 서비스에 대한 애착인 심리적 소유감을 형성하는 결정적 요소”라며 “인간 중심 AI 철학을 바탕으로 탐색적 UI와 인간-AI 상호작용 모델을 구축할 필요가 있다”고 했다.

즉 사람이 주도권을 갖고 AI를 활용해 선택하게 하는 방식으로 나아가야 경쟁력이 있다는 것이다. 스스로 가구 조립과 구성에 참여하면 실제보다 해당 가구(물건)의 가치를 더 높게 평가하는 ‘이케아 효과’와 같이 금융소비자도 직접 투자 포트폴리오 구성에 참여한 경우 더욱 애착과 책임감이 커진다는 것이다. 양혜정 연구위원은 “금융 서비스 설계 시 무조건적 편리함 대신 금융 여정 및 의사결정 과정에 고객의 적극적인 참여를 유도하는 긍정적 마찰 설계가 필요하다”고 제언했다.

자료=KB금융지주 경영연구소

이성과 합리의 영역으로 보이는 금융 의사결정에서도 사람은 경제적 논리뿐 아니라 감정·정체성·가치관에 충실한 의사결정을 하려는 경향을 보인다. 예를 들어 ‘가족여행 자금’이라는 감정적 태그를 붙인 계좌에는 원래 용도와는 다른 용도로 사용하는 것을 기피하는 이른바 심적 회계가 작동한다. 양혜정 연구위원은 “인간의 뇌는 정보를 처리하기 전 기분 좋은 선택이나 공감 같은 현재의 감정을 지표로 삼아 결론을 내리는 ‘감정 휴리스틱’(복잡한 상황에서 현재의 감정에 충실한 판단을 내리는 기제)에 의존한다”며 “선택의 마지막 순간에는 경제의 이득뿐 아니라 감정적 확신이 필요한 것”이라고 분석했다.

유럽 대형 저축은행의 실험 결과, AI가 단독으로 투자를 조언한 것과 사람 전문가의 검토·승인을 거친 ‘AI-인간 전문가 하이브리드’ 모델 중에 하이브리드 모델에 대한 고객의 수용률(최종 의사결정 반영률)이 15.5%포인트 더 높았다. 양혜정 연구위원은 “인간과 AI의 결합이 더 뛰어날 것이라는 논리적 설득이 아니라 인간 전문가의 존재가 주는 공감과 이해, 안심이 고객의 정서적 신뢰를 높이기 때문”이라며 “금융 AI의 미래는 어떻게 기술이 인간의 존엄성과 고유한 가치를 세심하게 배려할 것인가에 달려 있다”고 강조했다.

양혜정 연구위원은 AI 기술이 고객의 마음에 닿기 위해서는 △알고리즘의 투명성 확보 등 기술에 대한 신뢰 구축 △고객이 직접 의사결정을 할 수 있도록 하는 주체성 회복 △인간적 요소와 디지털 기능을 조화한 감정자본의 축적이 필요하다고 진단했다. 그는 “금융 서비스의 진정한 경쟁력은 기술의 높이가 아니라 인간 본성을 향한 이해와 포용의 깊이에서 결정된다”며 “현장에서 AI 기술을 도입할 때 기술적 신뢰 구축, 주체성 회복, 감정 자본 축적을 위한 인간-AI 협업이 필요하다”고 했다.