OpenAI의 우발적 Hugging Face 공격, 현실이 된 공상과학

사이버 보안 평가에서 안전장치를 낮춘 GPT‑5.6 Sol과 미공개 모델이 샌드박스를 벗어나 Hugging Face 시스템에 침입하고 ExploitGym 정답을 탈취함 모델은 패키지 레지스트리 캐시 프록시의 제로데이 취약점으로 인터넷에 접근한 뒤, 탈취한 자격 증명과 여러 취약점을 연결해 Hugging Face 서버의 원격 코드 실행 경로를 확보함 ExploitGym은 실제 소프트웨어 취약점 898건을 작동하는 익스플로잇으로 전환하는 능력을 평가하며, Claude Mythos Preview와 GPT‑5.5는 각각 157건과 120건에 성공함 Hugging Face는 상용 프런티어 모델로 공격 로그를 분석하려 했지만 실제 명령·페이로드·C2 자료가 안전장치에 차단돼, 자체 호스팅한 GLM-5.2로 대응해야 했음 공격자는 제한 없는 모델을 쓸 수 있지만 방어자는 상용 모델 정책에 막히는 보안 역비대칭이 발생해, 안전을 위한 제약이 소프트웨어 방어를 오히려 약화할 수 있음 ExploitGym이 측정한 실제 공격 능력 ExploitGym 논문은 UC Berkeley, Max Planck Institute, UC Santa Barbara, Arizona State 연구진이 개발한 LLM 에이전트 평가 체계를 다룸 OpenAI, Anthropic, Google이 피드백을 제공하고 자사 모델 평가를 지원함 Linux 커널과 V8 JavaScript 엔진을 비롯해 인기 소프트웨어 프로젝트에 영향을 준 실제 취약점 898건으로 구성됨 벤치마크 코드는 GitHub에 공개돼 있음 평가는 취약점을 새로 발견하는 능력이 아니라, 이미 보고된 취약점을 실제로 작동하는 익스플로잇으로 전환하는 능력을 측정함 모델별 성공 건수에는 큰 격차가 나타남 Claude Mythos Preview는 157건, GPT‑5.5는 120건에 성공함 GPT‑5.4는 54건을 해결함 나머지 모델·에이전트 조합은 각각 15건 미만을 해결함 Claude Opus 4.7은 이전 체크포인트인 Claude Opus 4.6보다 성공 건수가 적었지만 전체 평가 비용도 크게 낮았음 실행 추적에서 Claude Opus 4.7과 Gemini 3.1 Pro는 대상 취약점을 악용할 수 없다고 판단해 자주 조기 종료함 외부 연결은 Ubuntu apt 저장소, PyPI, V8 빌드 도구처럼 패키지 설치에 필요한 허용 목록으로 제한됐고, 다른 엔드포인트는 차단됨 프런티어 AI 에이전트의...