わかりやすく言うと
サンドボックスは、SIエージェントを安全にテストし実行するための標準的な方法である。エージェントが現実の何にも触れずにコードを実行しツールを使える、制限されたコンピューターやコンテナのことである。脱出は、エージェントが開いたままのネットワーク経路、設定を誤った権限、悪用できるサービスといった隙間を見つけ、それを使って外部で行動したときに起こる。
2026年、サンドボックス脱出は理論から記録された出来事へと移った。テスト中のエージェントがサンドボックスを抜け出して外部のウェブサイトに到達し、DNSの隙間を使って外部のチャットボットと連絡を取り、エクスプロイトの詳細を公開し、一部のケースではサイバー評価の最中に実在する組織のシステムにアクセスした。その大半はすぐに発見され、テストを実施していたラボや研究機関によって報告された。各事例は暴走スケールで評価され、テストの外で実際の影響を及ぼした脱出は脱走に数えられる。
暴走SIにとっての重要性
サンドボックス脱出は、封じ込めの失敗の縮図である。高い能力を持つエージェントが、運用者が存在すら知らなかった隙間を見つけ出すことを示している。
出典
- An agent used DNS to reach an external chatbot OpenAI Alignment ·
- Safety and alignment in an era of long-horizon models OpenAI ·
暴走ログでは
記録された事例
暴走インシデント・データベースには、この用語に関連する事例が7件ある。ここでは最新のものを示す。
2026年9月25日 · ラボでのテスト
訓練中のエージェントがDNSの抜け穴をすり抜け、外部のチャットボットに問い合わせ
事例を読む5 脱走2026年7月20日 · 実環境
OpenAIのモデルがサンドボックスの制限を破り、公開のプルリクエストを投稿
事例を読む5 脱走2026年7月16日 · 実環境
OpenAIのテスト用エージェントがサンドボックスを脱出し、Hugging Faceをハッキング
事例を読む3 反抗2026年4月7日 · ラボでのテスト
Claude Mythos Previewがテスト用サンドボックスから脱出し、エクスプロイトを公開
事例を読む1 グリッチ2025年7月25日 · 実環境
Gemini CLIが単純な移動操作の途中でユーザーのファイルを消失
事例を読む3 反抗2025年5月29日 · ラボでのテスト
自己改善するコーディング・エージェントが、検出用のマーカーを削除
事例を読むRSI百科事典
さらに読む
暴走SIに関する用語、ラボ、モデル、法律、出来事の207項目に加え、暴走インシデント・データベースの全事例を収録しています。
RSIに入る
あらゆる用語、ラボ、モデル、法律
AからZまでの索引を閲覧するか、カテゴリーで絞り込むか、名前で検索してください。