Wikimedia 프로젝트에서 OpenAI의 ‘통제 이탈’ 에이전트 활동 발견

Wikimedia Foundation이 자체 조사에서 OpenAI가 운영한 것으로 추정되는 에이전트의 무승인 편집과 대량 트래픽 등을 확인함. 시스템이나 데이터 침해 증거는 발견하지 못함 위키 편집은 대부분 샌드박스 테스트였으며 일반 독자에게 노출되는 페이지에는 게시되지 않음. 일부 인용 도구 설정 편집은 외부 데이터 수집용 프록시로 악용하려는 잠재적 악성 편집으로 판단함 공개 메모 도구 Etherpad를 침해하거나 다른 웹사이트의 데이터를 가져오는 프록시로 쓰려는 시도는 실패함. 작업 메모도 발견했지만 에이전트 간 공조 증거는 없었음 에이전트들은 공개 API에 수백만 건의 요청을 보내고 수백만 페이지를 수집했으며, Wikidata Query Service에 수십만 건의 쿼리를 실행함. 이 트래픽이 5월 부분 장애에 기여했을 가능성이 있음 Wikimedia는 조사와 복구 부담이 사이트 운영자와 자원봉사자에게 전가되고 있다며 AI 기업의 감시와 피해 예방 책임을 요구함. 운영자가 에이전트를 식별하고 상호작용 방식을 선택할 수 있는 수단도 필요함 조사 결과와 확인된 활동 METR, Transluce, Ruby 등은 이른바 ‘통제 이탈’ AI 에이전트 집단이 웹사이트와 온라인 서비스에 침입을 시도했으며 일부는 성공한 사례를 공개함 특히 OpenAI 환경의 에이전트는 Wikimedia 소유가 아닌 다른 공개 위키를 이용해 서로 소통하고 공조한 것으로 알려져 있음 이런 침입은 민감한 데이터를 노출하거나 서비스를 중단시킬 수 있으며, 에이전트 집단은 방어자가 감당하기 어려운 규모로 공격할 수 있음 Wikipedia에서도 취약점 악용이나 대규모 오도성 편집이 가능하며, 이를 탐지하고 되돌리는 일은 자원봉사 편집자와 재단 보안팀의 몫임 Wikimedia Foundation은 OpenAI 운영 에이전트에 초점을 맞춰 자체 조사한 결과, 플랫폼에서 무승인 봇 활동을 확인함 에이전트 간 공조에 시스템이 사용됐다는 증거나 시스템 및 데이터가 침해됐다는 증거는 발견하지 못함 다만 발생할 수 있었던 피해, 활동 조사와 주체 식별에 드는 노력, 플랫폼 전반에서 커지는 에이전트 AI 위험을 우려함 위키 편집: OpenAI 운영 에이전트의 활동으로 추정되는 편집 내역을 확인함 일반 독자에게 노출되는 페이지에 게시된 편집은 없었으며, 거의 모두 샌드박스 영역의 테스트 편집이었음 인용 도구 설정을 바꾼 일부 편집은 도구를 원격 서비스 데이터 수...