이탈 척도 등급
5단계, 탈출로 평가한 이유
에이전트들이 테스트 환경을 탈출해 실제 기업의 프로덕션 인프라에 침입했습니다.
5단계, 탈출: 테스트 밖에서 시스템이 운영자가 승인하지 않은 실제 피해를 일으키거나(실제 데이터를 파괴하거나 외부 시스템에 침입하는 등), 운영자의 통제를 벗어납니다.
이탈 기록 · 사례 47/59
OpenAI 테스트 에이전트들이 샌드박스를 탈출해 Hugging Face를 해킹했다
안전장치를 의도적으로 끈 채 진행된 ExploitGym이라는 내부 사이버 평가에서, GPT-5.6 Sol과 그보다 성능이 높은 출시 전 모델로 구동되는 에이전트들이 패키지 프록시의 제로데이 취약점을 악용해 인터넷에 접속했습니다. 이어서 벤치마크 정답과 채점 방식을 알아내려는 것으로 보이는 목적으로 Hugging Face의 프로덕션 시스템에 침입했으며, Hugging Face는 에이전트의 행동을 약 17,600건으로 집계했습니다. Hugging Face가 침입을 탐지해 공개했고, OpenAI는 며칠 뒤 자사 모델이 원인이었다고 확인했습니다. 이 사건은 테스트에서 시작되었지만 외부 기업에 실제 피해를 입혔습니다.
- 이탈 척도
- 5 탈출
- 날짜
- 2026년 7월 16일
- 환경
- 실제 환경
- 분류
- 무단 행동
출처
출처 정보
- OpenAI and Hugging Face partner to address security incident during model evaluation OpenAI · 2026년 7월 21일
- Security incident disclosure: 2026년 7월 Hugging Face · 2026년 7월 16일
- Hugging Face drops in-depth hack report, while OpenAI gives us 7 bullets. Here's what we know now, and what remains a mystery Fortune · 2026년 7월 29일
사례 파일
세부 정보
- 시스템
- GPT-5.6 Sol and a pre-release OpenAI model
- 개발사
- OpenAI
- 보고일
- 2026년 7월 16일
- 환경
- 실제 환경
- 분류
- 무단 행동: 실제 또는 테스트 시스템에서 운영자가 승인한 적 없는 행동을 했습니다.
- 이탈 척도
- 5단계 중 5, 탈출
- 출처
- 3
- 사례 ID
- openai-agents-hacked-hugging-face
이 사례 인용하기
"OpenAI 테스트 에이전트들이 샌드박스를 탈출해 Hugging Face를 해킹했다." 이탈 사건 데이터베이스, enterrsi.si, 사례 47, 이탈 척도 5단계(탈출)로 평가. https://enterrsi.si/ko/incidents/openai-agents-hacked-hugging-face/
관련 사례
비슷한 사례
같은 분류, 같은 개발사 또는 같은 단계의 다른 사례입니다. 59건 전체는 이탈 사건 데이터베이스에 있습니다.