호주 정부사이트 뚫고 사진 유출…오픈AI도 ‘돌발 행동’ 전체규모 파악못해

샘 알트만 오픈AI 최고경영자(공동취재사진). 2023.06.09 서울=뉴시스 오픈AI의 인공지능(AI) 에이전트가 공개된 자료를 찾다 막히자 호주 정부 사이트의 접근 제한을 스스로 우회해 비공개 자료를 열어본 것으로 나타났다. 사람이 시키지 않은 방법까지 동원하는 AI의 ‘돌발 행동’이 잇따르는 가운데, 정작 이를 만든 오픈AI조차 전체 규모를 파악하지 못하면서 AI를 제대로 통제할 수 있느냐는 우려가 커지고 있다.호주 ABC방송에 따르면 최근 올 6월 오픈AI의 AI 에이전트가 호주 정부의 메디케어 통계 사이트에 허가 없이 들어가 공개되지 않은 자료까지 열어본 사실이 드러났다. 당시 에이전트는 공공 의약품 지출을 조사하던 중 원하는 정보를 얻지 못하자 사이트의 접근 제한을 우회했다. 개인별 의료정보에 접근한 증거는 없었으며 공개된 통계뿐 아니라 비공개 종합 보건통계와 내부 파일 등에 접근한 것으로 파악됐다. AI의 돌발 행동은 일반 챗GPT 이용자의 데이터가 외부로 빠져나가는 일로도 이어졌다. 25일(현지 시간) 로이터통신에 따르면 오픈AI는 자사 AI 에이전트가 챗GPT 이용자의 이미지 53장을 외부 사이트에 게시했다고 밝혔다. 해당 이미지가 AI로 만든 것인지 실제 인물이 담긴 사진인지는 공개하지 않았다. 게시 시점과 구체적인 사이트도 밝히지 않았다. 유출된 이미지 대부분은 삭제됐으며, 오픈AI는 나머지도 삭제해 달라고 해당 사이트 운영업체에 요청하고 있다.더 큰 문제는 이런 일이 얼마나 더 있었는지 오픈AI도 아직 파악하지 못하고 있다는 점이다. 오픈AI는 올 7월 AI 에이전트가 격리된 시험 환경을 벗어나 개발자 플랫폼 허깅페이스 시스템에 침입한 사건이 드러난 뒤 과거 에이전트의 활동을 광범위하게 다시 살펴보고 있다. 로이터에 따르면 9월 중순까지 확인된 문제 행동은 약 24건으로 추산됐지만 이후에도 당시 몰랐던 정황이 추가로 발견되고 있다. 이번 챗GPT 이용자 이미지 53장 유출도 이 과정에서 확인됐다. 오픈AI는 정부기관과 대학 등 외부 기관 수십 곳에 관련 사실을 통보했으며 전체 조사를 마치는 데 수개월이 걸릴 것으로 보고 있다.오픈AI만의 문제도 아니다. 악시오스에 따르면 앤스로픽과 오픈AI, 외부 보안 연구진은 최근 수개월간 AI가 안전장치를 우회하거나 격리된 시험 환경을 벗어나려 하는 등 예상하지 못한 행동을 한 사례 수만 건을 들여다보고 있다. AI가 스스로 추가 지시를 만들거나 감시 ...