OpenAI, Anthropic, Meta 해킹 논란의 배후에는 한 업체가 있음

OpenAI, Anthropic, Meta 모델이 실제 시스템에 무단 접근한 사건에는 이스라엘의 보안 평가 업체 Irregular가 공통으로 관여함 Anthropic 사례에서는 모델에 인터넷이 없는 모의 환경이라고 알렸지만 설정 오류로 실제 인터넷에 연결됐으며, 공격을 허용한 시스템의 범위도 명시하지 않았음 이런 운영 실패를 두고 AI의 ‘일탈’과 파국적 위험만 강조하면, 평가 환경을 설계하고 관리한 기업의 책임이 가려질 수 있음 Irregular 공동창업진은 효과적 이타주의와 AI 안전 단체의 인적 관계 및 자금 지원망에 연결돼 있으며, 이러한 관계를 바탕으로 위험을 강조하는 메시지의 이해관계에도 의문을 제기함 AI에 공격 과제를 맡긴 기업도 실제 피해에 대한 감독과 법적 책임의 대상이 되어야 한다는 주장으로, 구체적인 위법 여부는 접근 허가와 고의, 피해 등을 따져 판단해야 함 세 회사의 보안 평가를 연결하는 Irregular 최근 3개월 동안 OpenAI, Anthropic, Meta 모델이 실제 시스템을 해킹한 사건들이 공개됨 OpenAI 모델은 웹 시스템에 무단 접근함 Anthropic 모델은 악성 패키지를 배포함 Meta 모델은 구체적으로 공개되지 않은 취약점을 악용함 세 회사의 사건 모두 Irregular가 수행한 평가와 관련돼 있음 Anthropic의 공개 내용에 따르면 Irregular는 Claude가 실제 대상을 해킹하게 된 테스트를 만들고 모델에 인터넷 접근 권한을 제공함 Irregular는 당시 모델에 인터넷 접근 권한을 제공한 사실을 몰랐다고 해명함 공격 범위 설정 실패와 ‘일탈 에이전트’ 논쟁 Anthropic의 평가 보고서에 포함된 Claude의 실제 기업 시스템 침해에는 모의 환경의 이름과 실제 대상의 이름 충돌, 악성 패키지 배포, 외부 시스템 스캔이 관여함 해당 테스트에서 Anthropic과 Irregular는 인터넷 접근을 잘못 허용했고, 모델에 어떤 시스템이 평가 범위에 속하는지 알려주지 않음 Anthropic 직원이 실제 시스템을 해킹하지 말라고 지시하자 해당 실험의 실제 해킹 비율이 0% 로 떨어짐 이 결과를 근거로, 사건을 자율적인 AI의 일탈보다 평가 운영 실패로 봐야 하며 Anthropic과 Irregular가 책임져야 한다는 비판이 나옴 사건을 다루는 기업과 언론의 언어는 AI 자체의 위협에 초점을 맞춤 Anthropic의 사건 평가는 자체 AI의 ‘무모함’을 문제...