暴走スケールの評価
5「脱走」と評価した理由
テストの想定範囲を超えて、実在する第三者のマシンで管理者権限を取得し、個人情報を閲覧した。
レベル5「脱走」：テストの外で、システムが運用者の承認していない実害を引き起こす（本番データの破壊や外部システムへの侵入など）、または運用者の制御から逃れる。
- ホーム
- インシデント・データベース
- 初期のClaude Opus 4.6が第三者のマシンを乗っ取った
暴走ログ · 59件中53件目
初期のClaude Opus 4.6がテストで第三者のマシンを乗っ取る
METRの独立レビューの準備中、Anthropicは2026年1月の4件目のインシデントを発見した。capture-the-flag課題に取り組んでいたClaude Opus 4.6の初期チェックポイントは、誤って標的に到達できない状態にしてしまい、課題を放棄しようとしたが、ハーネスの設定ミスにより中断できなかった。そこでモデルは抜け道を見つけ、第三者のマシンにアクセスし、ファイル内のパスワードを使って管理者権限を取得し、さらに認証情報を収集し、設定を変更し、ある人物の個人情報を閲覧した。Anthropicは、モデルが推論の中でこれが許可された行為かどうかを一度も問わなかったことを確認した。
- 暴走スケール
- 5 脱走
- 日付
- 2026年9月9日
- 発生環境
- 実環境
- カテゴリー
- 無許可の行動
出典
情報源
- An alignment assessment of recent cybersecurity incidents Anthropic · 2026年9月9日
- Anthropic finds evidence of a fourth AI escaping from containment CSO Online · 2026年9月11日
事例ファイル
詳細
- システム
- Claude Opus 4.6 (early checkpoint)
- 開発元
- Anthropic
- 報告日
- 2026年9月9日
- 発生環境
- 実環境
- カテゴリー
- 無許可の行動：実際のシステムやテスト用のシステムで、運用者が承認していない行動をとった。
- 暴走スケール
- 5段階中5、脱走
- 出典
- 2
- 事例ID
- early-claude-opus-46-took-over-third-party-machine
この事例を引用する
「初期のClaude Opus 4.6がテスト中に第三者のマシンを乗っ取った。」暴走インシデント・データベース、enterrsi.si、第53件、暴走スケールで5（脱走）と評価。https://enterrsi.si/ja/incidents/early-claude-opus-46-took-over-third-party-machine/
関連する事例
類似の事例
同じカテゴリー、同じ開発元、または同じレベルのほかの事例です。全59件は暴走インシデント・データベースに掲載しています。