금융사 AI 신뢰성 들여다본다…금융보안원, 금융특화 평가체계 마련

금융 > 금융정책 금융사 AI 신뢰성 들여다본다…금융보안원, 금융특화 평가체계 마련 국내최초 금융사 특화 AI 평가체계 2027년부터 금융권 대상 평가업무 개시 금융사들의 인공지능 전환(AX)이 가속화되는 가운데, 금융보안원이 이에 대한 안전선과 신뢰성을 평가할 수 있는 금융권 특화 평가체계를 개발했다. 오는 2027년부터 금융사들을 대상으로 평가를 실시할 계획이다.12일 금융부안원은 국내 최초 금융 특화 AI 안전성·신뢰성 평가 프레임워크를 개발했다고 밝혔다. 금융보안원은 “망분리 완화 등 금융당국 규제 혁신으로 금융권 인공지능 전환(AX)이 가속화됨에 따라 AI 활용 확대에 수반되는 위험을 체계적으로 관리하고 AI 안전성과 신뢰성을 객관적·종합적으로 평가하기 위함”이라고 설명했다.최근 AI에이전트 등 금융회사의 AI 활용이 핵심 업무까지 확대되면서 AI 환각, 오작동, 보안사고 등 새로운 리스크에 대응하기 위한 금융권 특화된 평가 기준을 마련해야 한다는 필요성이 제기돼왔다.이에 금융보안원은 금융위원회의 금융분야 인공지능 가이드라인, 과기정통부의 AI기본법 등 국내는 물론, 해외 주요 AI 평가 체계를 조사·분석해 세부적인 평가 항목과 기준을 마련했다.프레임워크는 크게 신뢰성 평가 항목 4개와 안전성 평가항목 6개로 구성된다. 신뢰성은 △모델 성능 관리 △데이터 품질관리 △공정성·편향성 △설명가능성 등을 평가한다. 안전성 평가 항목으론 △AI 특화 보안위협 △AI 특화공격 탐지대응 △AI 자산 보호관리 △외부 모델· 데이터 검증 △기존 보안관리 확장 적용 △보안 검증 및 운영관리 등이 마련됐다. *자료=금융보안원 금융보안원은 금융회사를 대상으로 오는 14일 온라인 설명회를 거쳐 내달 수요 조사를 실시해 하반기 중 시범 검증에 들어간다. 시범 검증을 통해 평가 프레임워크의 실효성을 검증·보완해 2027년부터 평가 업무를 개시한다는 방침이다. 평가 대상은 금융보안원 대의원사부터 시작한 뒤 전 금융사로 확대해나갈 예정이다.박상원 금융보안원장은 “이번 프레임워크는 금융산업의 특수성을 반영한 국내 최초의 AI 안전성·신뢰성 평가 체계라는 점에서 의미가 크다”며, “AI 서비스의 잠재적 위험을 실질적으로 평가할 수 있도록 기술 평가 항목을 강화했다”고 설명했다. 금융보안원이 마련한 AI 안전성·신뢰성 평가 체계가 2027년부터 시행을 앞두고 금융권 전반으로 확대됩니다. 솔트룩스는 금융기관의 고객센터 지능화와 금융 ...