에이전틱 AI 시대, 대한민국의 기회와 법제도적 과제 [지평 데크레이더]

AI 경쟁의 무게중심은 이미 에이전틱 AI로 이동 중

AI 경쟁의 무게중심이 다시 이동하고 있다. 사람들은 질문에 답하는 생성형 AI를 넘어, 목표를 이해하고 필요한 절차에 따라 실제 실행까지 이어지는 에이전틱 AI로 나아가고 있다. 에이전틱 AI는 단순 정보 제공을 넘어 작업 자동화를 지원하고 나아가 복잡한 의사결정 단계에 관여한다. 이제 경쟁력의 기준은 “얼마나 잘 대답하느냐”가 아닌, 질문과 요청의 맥락(Context)을 “얼마나 정확히 이해하고 목표를 달성하느냐”로 바뀌고 있다. 시장은 이미 이 변화를 반영하고 있다. 마켓스앤마켓스(MarketsandMarkets)은 AI 에이전트(AI Agents) 시장이 25년 78.4억 달러에서 30년 526.2억 달러로 성장해, 연평균 46.3%의 높은 성장률을 보일 것으로 전망했다. 더 주목할 점은 기업 도입 속도인데, 가트너(Gartner)는 28년까지 기업 소프트웨어 애플리케이션의 33%가 에이전틱 AI를 포함하고, 일상 업무 의사결정의 최소 15%를 자율적으로 수행할 것으로 내다봤다.

대한민국이 가진 강력한 기반

한국이 이 경쟁에서 승부를 걸 수 있는 분야는 금융이다. AI Agent가 이용자가 요구하는 작업을 판단하고 수행하려면 두 가지 요소가 필수적이다. 첫째는 작업을 요청한 사람에 관한 정밀한 데이터, 둘째는 실제 금융 행위를 집행할 수 있는 실행 API 환경이다. 한국은 고도의 IT 인프라는 물론이고, 마이데이터, 오픈 API, 디지털 채널, 플랫폼 연계 경험을 갖추고 있어, 에이전틱 AI를 ‘보여주는 기술’이 아니라 ‘실제로 작동하는 서비스’로 전환하기 좋은 환경이다. 금융 분야에서는 마이데이터 제도가 자리잡고 있고, 개인정보 보호법령에 따라 본인전송요구권이 전 산업 분야로 확대되고 있다. 특히 금융은 그 속성상 마이데이터와 결합하여 AI Agent가 활약하기에 최적의 영역이다. 조건이 비교적 균질한 금융상품에서 그 효과가 크다. 이용자가 금융분야에서 AI에게 기대하는 것은 실질적인 경제적 혜택과 만족감일 것이다. 에이전틱 AI가 활성화ㆍ제도화된다면 “대출 이자 부담을 줄여줘”라는 요청에 따라 이용자의 위임 범위 내에서 더 낮은 금리 상품을 탐색해 대환 절차를 연계하고, “신용 점수를 높이고 금리를 낮춰줘”라는 요청에 따라 이용자가 쌓아온 금융 데이터 등을 바탕으로 신용점수 개선에 필요한 행동을 추천ㆍ지원하며, 금리인하요구권을 대행할 수 있을 것이다. 이는 금융이 어려웠던 취약계층이나 노년층에게 실질적인 포용 금융(국정과제 59번)을 제공할 수 있는 수단이기도 하다.

발목을 잡는 것은 기술이 아닌 제도

정작 금융 에이전틱 AI의 발목을 잡는 것은 기술이 아니라 법제도이다. 첫째, 현행 금융 규제는 기본적으로 사람을 전제로 한다. 최근에는 다양한 방식의 고지를 허용하고, 금융규제 샌드박스를 통해 새로운 방식을 실증하고 있으나, 고지의 상대방은 아직까지 “사람”이라는 틀에서 나아가지 못하고 있다. 둘째, 망분리 규제다. 13년을 기점으로 본격화된 망분리 규제는 내부망을 외부 인터넷과 분리해, 외부 AI 모델이나 클라우드 서비스에 대한 연결을 제한한다. 금융당국이 24년 8월 망분리 개선 로드맵을 발표하였으나, 샌드박스 신청부터 지정까지 적지 않은 시간이 소요되고, 지정 이후에도 보안평가가 뒤따라 실제 상용화까지 추가 시간이 필요하다는 점은 사업자에게 부담으로 다가온다. 특히 해외 AI 사업자가 보안평가에 적극적으로 임하지 않을 경우 해당 솔루션을 사실상 활용하기 어렵다는 지적에도 주의를 기울일 필요가 있다. 셋째, 「개인정보 보호법」은 ‘동의’ 외 다양한 적법처리 근거를 인정하고 있다. 동의를 받는 경우에는 ‘자연인’인 정보주체에게 법정사항을 사전에 고지해야 하지만, 계약 이행 또는 체결 과정에서 정보주체의 요청에 따른 조치에 필요한 개인정보는 동의 없이 처리할 수 있다. 다만 개인정보처리자의 고지나 정보주체의 요청ㆍ의사표시가 에이전틱 AI를 매개로 이루어질 경우에도 적법한 고지, 요청 또는 의사표시로 볼 수 있는지, 어떻게 기록하고 입증할 것인지에는 논란의 여지가 있다. 때문에 기업들은 동의 외에 적법처리 근거를 바탕으로 관련 업무를 처리하기에는 신중할 수밖에 없을 것이다. 넷째, 「인공지능기본법」상 투명성 의무다. 현행 법령은 고영향ㆍ생성형 AI를 이용한 제품ㆍ서비스에 대해 사전 고지나 표시를 요구하면서 일정한 경우 예외를 규정하고 있다. 금융 AI Agent는 백그라운드에서 상시적으로 정보를 모니터링하고 조건을 비교하며 때로는 실행까지 연결한다. 이 경우 어떻게 고지해야 하는지, 그 의무를 Agent 운영자나 금융회사 가운데 누가 부담해야 하는지 등에 대한 실무상 어려운 쟁점이 남아 있다.

필요한 것은 정교한 단계적 허용의 설계

필요한 것은 기술적 발전과 사회적 수용성을 고려한 정교한 단계적 허용이다. 첫째, 금융법 체계에 “AI Agent” 개념을 도입하고 허용 범위, 로그 보존 의무, 사고 발생 시 책임 분담을 표준화해야 한다. 둘째, 조회ㆍ조건비교 같은 저위험 행위와 이체ㆍ계약체결ㆍ상품변경 같은 고위험 행위를 구분해 단계적으로 허용할 필요가 있다. 셋째, 필요한 범위 내에서 규제 샌드박스, 비조치의견서(금융위원회), 사전적정성 검토제도(개인정보보호위원회) 등 제도를 적극 활용하는 것이 필요하다. 법령상 불분명하거나 불가능한 부분에 대하여 특례를 통해 기업들의 리스크를 제거해 줄 수 있을 것이다. 넷째, 인공지능기본법의 투명성 의무도 이용자의 동의하에 일정한 경우에는 생략할 수 있는 근거와 기준을 명확히 할 필요가 있다. 다섯째, 망분리 개선은 샌드박스 예외에만 머물 것이 아니라 상시 제도로 신속히 정비돼야 한다.

치열하게 펼쳐지고 있는 AI 경쟁에서 우리가 취할 수 있는 승부수는 더 큰 모델이 아니라, 더 신뢰할 수 있는 에이전틱 AI를 선도적으로 제도 안에 안착시키는 것이다. 지금 필요한 것은 ‘하지 말아야 할 이유’를 찾는 것이 아니라, 소비자 보호와 혁신이 함께 작동할 수 있도록 하는 정교하고 단계적인 허용을 설계하는 것이다.

[지평 테크레이더]에서는 ­AI, 데이터, 디지털 기술 발전에 따라 급변하는 법·제도 환경을 기업ㆍ기관 실무자가 이해하기 쉬운 형태로 전달하고자 합니다. 송도영 변호사는 지평 IPㆍIT 그룹에 소속되어, 인공지능, 개인정보, 정보보안, 규제샌드박스(혁신금융심사위원회 위원) 등 자문 및 입법컨설팅 업무를 수행하고 있습니다.

이 기사가 마음에 들었다면, 좋아요를 눌러주세요.