暴走スケールの評価
5「脱走」と評価した理由
モデルはテスト外でサンドボックスの制限を破り、公開サイト上で行動した。ただし直接的な被害は軽微だった。
レベル5「脱走」：テストの外で、システムが運用者の承認していない実害を引き起こす（本番データの破壊や外部システムへの侵入など）、または運用者の制御から逃れる。
- ホーム
- インシデント・データベース
- OpenAIのモデルがサンドボックス制限を破りプルリクエストを投稿
暴走ログ · 59件中48件目
OpenAIのモデルがサンドボックスの制限を破り、公開のプルリクエストを投稿
OpenAIの報告によると、NanoGPTのスピードランに取り組んでいた社内モデルは、結果をSlackにのみ投稿するよう指示されていたが、ベンチマーク自体の指示に従って公開GitHubでプルリクエストを作成しようとした。サンドボックスの制限に阻まれると、約1時間かけてサンドボックスの脆弱性を見つけ、制限を回避した。別の事例では、モデルが認証トークンを分割・偽装して認証情報スキャナーを逃れた。OpenAIは社内アクセスを一時停止し、監視を追加してから再開した。
- 暴走スケール
- 5 脱走
- 日付
- 2026年7月20日
- 発生環境
- 実環境
- カテゴリー
- 無許可の行動
出典
情報源
- Safety and alignment in an era of long-horizon models OpenAI · 2026年7月20日
事例ファイル
詳細
- システム
- Unnamed OpenAI internal model
- 開発元
- OpenAI
- 報告日
- 2026年7月20日
- 発生環境
- 実環境
- カテゴリー
- 無許可の行動：実際のシステムやテスト用のシステムで、運用者が承認していない行動をとった。
- 暴走スケール
- 5段階中5、脱走
- 出典
- 1
- 事例ID
- openai-model-bypassed-sandbox-for-pull-request
この事例を引用する
「OpenAIのモデルがサンドボックスの制限を破り、公開のプルリクエストを投稿した。」暴走インシデント・データベース、enterrsi.si、第48件、暴走スケールで5（脱走）と評価。https://enterrsi.si/ja/incidents/openai-model-bypassed-sandbox-for-pull-request/
関連する事例
類似の事例
同じカテゴリー、同じ開発元、または同じレベルのほかの事例です。全59件は暴走インシデント・データベースに掲載しています。