개발 단계부터 아동 위험 점검…초록우산, 20개 조항 ‘AI 헌장‘ 선포

아동권리기반 AI 헌장 표지. 초록우산 제공 인공지능(AI)이 아동의 정서적 의존을 유도하지 않도록 하고, 개발 단계부터 아동에게 미칠 위험을 점검하도록 하는 시민사회 헌장이 마련됐다. AI 안전을 확보할 책임을 아동에게 떠넘기지 않는다는 원칙도 담겼다.아동복지전문기관 초록우산은 12일 국제인공지능윤리협회와 공동으로 ‘아동권리기반 AI 헌장’을 마련해 선포했다고 밝혔다. 철학·윤리·AI·법률 전문가들이 유엔아동권리협약을 토대로 작성했으며, 초록우산 아동권리옹호단 200여 명의 의견을 반영했다.헌장은 6장 20개 조항으로 구성됐다. 아동의 존엄성과 최선의 이익을 기본 원칙으로 삼고, 차별 없는 AI 접근과 학습 기회, 의견 제시와 참여, 위험으로부터의 보호와 피해 구제 등을 다룬다.아동과 감정을 주고받는 것처럼 대화하는 AI는 상대가 사람이 아닌 AI임을 지속적으로 알리는 기능을 갖춰야 한다. 아동의 정서적 의존을 강화하거나 아동의 취약성을 이용해 상업적으로 착취하는 설계·운영은 금지 원칙으로 제시했다.아동의 권리와 안전에 중대한 영향을 미칠 수 있는 AI는 개발·도입이나 중요한 변경에 앞서 ‘아동권리영향평가’를 거치도록 했다. 다만 헌장은 법적 구속력이 있는 규제 문서가 아니라 각 주체의 실천 방향을 제안하는 선언이다.AI와 아동의 관계는 국제적으로도 보호 과제로 다뤄지고 있다. 유엔아동기금(유니세프)은 지난 6월 정책자료에서 아동이 AI 챗봇을 정보·학습뿐 아니라 조언과 정서적 지원을 얻는 데도 활용한다고 짚었다. 이어 피해 발생 후 대응에서 예방 중심으로 접근을 전환해야 한다고 제시했다.국내에서도 비슷한 흐름이 나타났다. 국회입법조사처는 지난 7월 보고서를 통해 아동·청소년이 정서적 의존, 인지 왜곡, 사회적 고립, 안전 위험으로 이어지는 연쇄 구조를 거쳐 챗봇에 중독될 가능성이 성인보다 높다며 규제 도입이 필요하다고 밝혔다. 초록우산은 헌장을 정부와 디지털 플랫폼 기업 등에 전달하고, AI 정책·가이드라인과 서비스 개발·운영에 반영되도록 협력을 추진할 계획이다.황영기 초록우산 회장은 “아동 안전과 권리는 AI 활용 이전의 설계에서부터 반영해야 할 중요한 기준”이라고 말했다. 함께 미래 > 구독 이런 구독물도 추천합니다! 오늘과 내일 트렌디깅 허진석의 톡톡 스타트업 최재호 기자 cjh1225@donga.com© dongA.com All rights reserved. 무단 전재, 재배포 및 AI학습 이용...