AI 확산하는 금융권, “사전 승인에서 상시 검증으로 전환해야”

금융권에 인공지능(AI) 활용이 확대되면서 금융 AI 감독 체계도 '사전 승인'에서 '상시 검증' 중심으로 전환해야 한다는 제언이 나왔다. 금융당국도 AI를 별도 기술이 아닌 금융회사 내부통제 체계 안으로 편입하는 방향으로 가이드라인을 마련 중이다.

한국핀테크산업협회가 23일 서울 여의도 국회의원회관에서 'AI 시대, 금융 시스템을 다시 설계하다'를 주제로 국회 포럼을 열었다.

채상미 이화여대 교수는 금융 AI가 개별 서비스 수준을 넘어 금융 시스템 전반을 구성하는 인프라가 됐다고 진단했다. AI가 신용·보험·결제·보안 등 금융사 의사결정에 광범위하게 활용되면서 개별 서비스 오류가 금융 안정성과 소비자 신뢰로 이어질 수 있다.

채 교수는 “금융 AI의 경쟁력은 모델 성능보다 AI 리스크를 검증 가능한 신뢰 인프라에서 결정된다”며 “금융 AI 감독 체계도 사전 승인 중심에서 상시 검증 체계로 전환해야 한다”고 말했다.

이어 “AI를 도입 전에 허용 여부를 판단하면 빠르게 변화하는 AI 기술과 위험을 관리하기 어렵다”며 “AI를 사용하면서 위험 등급 분류와 사용처 등록, 감사 가능한 로그 관리, 공급망 검증 체계 등 운영 과정 전반을 지속적으로 점검하고 검증하는 체계가 필요하다”고 덧붙였다.

이 같은 문제의식은 금융당국이 마련 중인 금융분야 AI 가이드라인에도 반영되고 있다.

금융당국은 AI를 활용하는 금융사에 △거버넌스 △합법성 △보조수단성 △신뢰성 △금융안정성 △신의성실 △보안성 등 7대 원칙을 담은 금융분야 AI 가이드라인을 마련 중이다. 지난 22일 시행됐다.

강현정 김앤장 법률사무소 변호사는 “금융분야 AI 가이드라인의 핵심은 AI를 별도 시스템으로 관리하는 것이 아니라 내부통제와 위험관리 체계 안으로 편입하는 것”이라고 설명했다.

가이드라인에 따르면 금융사는 AI 의사결정기구와 위험관리 전담조직을 운영하고 AI 서비스별 위험도를 평가해 통제 수준을 차등 적용해야 한다. 또 AI를 활용한 의사결정이라도 최종 책임은 사람에게 있다.

강 변호사는 “대출 심사나 거래 판단 과정에서 AI가 활용되더라도 사람이 결과를 검토하고, AI 판단을 수정하거나 중단할 수 있는 체계도 갖춰야 한다”며 “AI 역시 기존 금융상품이나 서비스와 마찬가지로 내부통제 대상이라는 의미”라고 말했다.

그러면서 “AI 활용이 확대될수록 중요한 것은 기술을 통제하고 검증할 수 있는 체계”라며 라고 말했다.

가이드라인은 AI 활용에 따른 소비자 보호와 제3자 위험관리를 강조한다. 금융사는 AI 활용 사실을 사전에 고지하고 소비자 이의제기 절차를 마련해야 하며, 외부 AI 모델과 오픈소스, 클라우드 활용에 따른 위험을 관리할 수 있는 내부 통제 체계도 구축해야 한다.

박두호 기자 walnut_park@etnews.com