금융에서 시작된 AI통제, 이제 모든 기업의 과제다 [바른 컴플라이언스리포트]

로펌 리포트 금융에서 시작된 AI통제, 이제 모든 기업의 과제다 [바른 컴플라이언스리포트] 지난 6월 22일 「금융분야 인공지능 가이드라인」이 시행되고, 금융감독원은 그 거버넌스 원칙을 구체화한 「금융분야 AI 위험관리 프레임워크」를 배포했다. AI 위험등급과 조직별 책임을 구체화한 기준이 금융 분야에서 먼저 제시됐지만, 그 의미는 금융회사에 머물지 않고 비금융 기업의 AI 거버넌스에도 시사점을 준다.금융 가이드라인은 금융상품·서비스에 AI를 이용하는 금융회사뿐 아니라 AI의 결과가 금융거래 제공에 영향을 미치는 핀테크 등 비금융회사에도 적용될 수 있는 자율규범이다. 금융회사는 금융분야 AI RMF를 참고해 AI 서비스의 위험등급을 산정하고, 등급별로 승인 절차와 모니터링, 사람의 개입 수준을 달리할 필요가 있다. 가이드라인은 경영진의 역할 분담, 독립적 위험관리 전담조직, 이사회의 적정성 점검을 제시한다.AI 거버넌스의 핵심, 이사회의 참여와 감독금융 가이드라인과 유사한 조직적 통제는 민간기업의 AI 거버넌스에서도 찾아볼 수 있다. 네이버는 지난 7월 7일 공개한 「AI 안전 프레임워크 2.0」에서 서비스 실무조직이 안전조치를 실행하고 CRO 산하 AI Safety Center가 이를 관리·지원하며 이사회가 최종 감독하는 체계를 제시했다.이러한 조직적 통제의 필요성은 인공지능기본법상 고영향 AI 관련 책무에서도 확인된다. 관련 사업자는 위험관리, 설명, 이용자 보호, 사람의 관리·감독, 문서 작성·보관 조치를 해야 한다. 채용·대출 심사, 진단·치료처럼 개인의 권리와 안전에 중대한 영향을 미치는 AI에서는 이러한 책무가 더욱 중요하다. 법상 고영향 AI와 회사 자체 평가상 고위험 AI를 구분하되, 모두 강화된 통제 대상으로 관리하는 것이 바람직하다. [제미나이] 일반 기업의 AI 거버넌스, 사용 현황 파악부터일반 기업이 생산성과 업무 효율성을 위해 문서 작성·요약, 정보검색, 개발 지원 등에 AI를 쓰는 경우에도 기본적인 통제가 필요하다. 내부 업무용 AI에도 사용 목적, 입력 데이터의 보안·적법성, 접근권한, 산출물 검토와 사고 대응 기준이 필요하다. 외부 AI를 이용할 때는 공급자의 법령 준수와 위험관리 수준도 점검할 필요가 있다. 개별 협상이 어려운 빅테크 서비스라면 입력정보의 학습 이용, 사고 통지, 모델 변경, 데이터 삭제·종료 조건을 확인해 문서로 남긴다. 담당자에게 AI 산출물의 수정·거부와 시스...