보호자가 응답방식 유도…18세미만 전용 챗GPT 이달말 출시

2 hours ago 2

샘 올트먼 오픈AI 최고경영자가 올해 2월 서울 중구 플라자호텔에서 열린 카카오 기자간담회에서 취재진 질문에 답하고 있다. 뉴시스.

오픈AI는 18세 미만 사용자를 위해 보호자가 사용 시간을 설정하거나 응답 방식을 유도하는 등의 기능이 있는 전용 챗GPT를 이달 말 출시할 예정이라고 16일(현지시간) 밝혔다.

오픈AI는 사용자가 미성년자인 것으로 확인되면 자동으로 연령에 맞는 전용 챗GPT로 변경된다고 설명했다. 선정적이거나 폭력적인 콘텐츠를 차단하고, 심각한 위기 상황에서는 법 집행 기관이 개입할 수 있다.

오픈AI는 또 사용자의 나이를 더 잘 예측하는 기술을 개발 중이며, 불확실하거나 정보가 불완전할 경우 챗GPT는 기본적으로 18세 미만 사용자 경험으로 설정될 것이라고 덧붙였다.

보호자의 자녀 보호 기능도 강화된다. 보호자는 자신의 챗GPT 계정을 자녀의 계정과 연결하고, 자녀가 챗봇을 사용할 수 없는 시간을 설정할 수 있다. 특히 챗봇의 응답 방식을 유도하거나 자녀가 심각한 정신적 고통을 겪으면 알림을 받을 수 있다.

오픈AI의 이런 조치는 최근 연방거래위원회(FTC)가 오픈AI를 포함한 여러 기술 기업을 대상으로 AI 챗봇이 어린이와 청소년에게 미치는 잠재적 악영향에 대한 조사를 시작한 이후에 나온 것이다. FTC는 이들 기업이 “챗봇의 안전성을 평가하기 위해 어떤 조치를 취했는지 파악할 필요가 있다”며 자료 요청과 함께 조사를 개시했다고 밝힌 바 있다.

오픈AI는 지난달 챗GPT와 수개월간 상호작용한 아들의 사망에 오픈 AI가 책임이 있다며 한 학부모가 제기한 소송에 피고가 됐다. 샘 올트먼 오픈AI 최고경영자(CEO)는 이날 블로그에 “우리는 10대들의 사생활이나 자유보다 안전을 우선시한다”며 “이것은 새롭고 강력한 기술이며, 미성년자에게는 상당한 보호가 필요하다고 믿는다”라고 적었다.

이어 “(18세 미만 전용 챗GPT는) 어려운 결정이지만, 전문가들과 논의한 결과 이것이 최선이라고 생각하며 우리의 의도를 투명하게 밝히고 싶다”고 썼다.

김형민 기자 kalssam35@donga.com