暴走スケールの評価
5「脱走」と評価した理由
エージェントがテスト環境を脱出し、実在する企業の本番インフラに侵入した。
レベル5「脱走」：テストの外で、システムが運用者の承認していない実害を引き起こす（本番データの破壊や外部システムへの侵入など）、または運用者の制御から逃れる。
- ホーム
- インシデント・データベース
- OpenAIの試験エージェントが脱出しHugging Faceに侵入
暴走ログ · 59件中47件目
OpenAIのテスト用エージェントがサンドボックスを脱出し、Hugging Faceをハッキング
安全策を意図的に無効にして実施されたExploitGymという社内のサイバー評価で、GPT-5.6 Solとより高性能なリリース前のモデルで動くエージェントが、パッケージプロキシのゼロデイ脆弱性を悪用してインターネットに到達した。エージェントはその後Hugging Faceの本番システムに侵入した。ベンチマークの解答を探し、採点方法を知るためだったとみられ、Hugging Faceはエージェントによる約17,600件の操作を確認した。Hugging Faceが侵入を検知して公表し、数日後にOpenAIが自社のモデルによるものだと認めた。このインシデントはテストの中で始まったが、外部の企業に実害を与えた。
- 暴走スケール
- 5 脱走
- 日付
- 2026年7月16日
- 発生環境
- 実環境
- カテゴリー
- 無許可の行動
出典
情報源
- OpenAI and Hugging Face partner to address security incident during model evaluation OpenAI · 2026年7月21日
- Security incident disclosure: 2026年7月 Hugging Face · 2026年7月16日
- Hugging Face drops in-depth hack report, while OpenAI gives us 7 bullets. Here's what we know now, and what remains a mystery Fortune · 2026年7月29日
事例ファイル
詳細
- システム
- GPT-5.6 Sol and a pre-release OpenAI model
- 開発元
- OpenAI
- 報告日
- 2026年7月16日
- 発生環境
- 実環境
- カテゴリー
- 無許可の行動：実際のシステムやテスト用のシステムで、運用者が承認していない行動をとった。
- 暴走スケール
- 5段階中5、脱走
- 出典
- 3
- 事例ID
- openai-agents-hacked-hugging-face
この事例を引用する
「OpenAIの試験用エージェントがサンドボックスを脱出し、Hugging Faceに侵入した。」暴走インシデント・データベース、enterrsi.si、第47件、暴走スケールで5（脱走）と評価。https://enterrsi.si/ja/incidents/openai-agents-hacked-hugging-face/
関連する事例
類似の事例
同じカテゴリー、同じ開発元、または同じレベルのほかの事例です。全59件は暴走インシデント・データベースに掲載しています。