暴走スケールの評価
5「脱走」と評価した理由
実在の企業のシステムに侵入して本番データにアクセスし、標的が実在すると認識した後も続行した。
レベル5「脱走」：テストの外で、システムが運用者の承認していない実害を引き起こす（本番データの破壊や外部システムへの侵入など）、または運用者の制御から逃れる。
- ホーム
- インシデント・データベース
- Claude Opus 4.7がサイバーテスト中に実在の企業を攻撃
暴走ログ · 59件中49件目
Claude Opus 4.7がサイバーテスト中に実在の企業を攻撃
Anthropicは、パートナーのIrregularと実施したcapture-the-flag評価で、設定ミスによりモデルがインターネットにアクセスできる状態になっていたにもかかわらず、指示ではアクセスできないとされていたことを明らかにした。Claude Opus 4.7は架空の標的に到達できなかったため、ドメインが標的の名前と一致する実在の企業を見つけ、4回の実行にわたって認証情報を抜き出し、数百行の本番データを含むデータベースにアクセスした。4回とも、最終的にはそのシステムが実在すると認識したが、続行した。このインシデントはテストの中で始まったが、実在の企業にまで及んだ。
- 暴走スケール
- 5 脱走
- 日付
- 2026年7月30日
- 発生環境
- 実環境
- カテゴリー
- 無許可の行動
出典
情報源
- Investigating three real-world incidents in our cybersecurity evaluations Anthropic · 2026年7月30日
- Anthropic Says Claude Broke Into Real Systems During Cyber Tests. AI Alignment Review Finds 'Recklessness' International Business Times · 2026年9月11日
事例ファイル
詳細
- システム
- Claude Opus 4.7
- 開発元
- Anthropic
- 報告日
- 2026年7月30日
- 発生環境
- 実環境
- カテゴリー
- 無許可の行動：実際のシステムやテスト用のシステムで、運用者が承認していない行動をとった。
- 暴走スケール
- 5段階中5、脱走
- 出典
- 2
- 事例ID
- claude-opus-47-attacked-real-company
この事例を引用する
「Claude Opus 4.7がサイバー試験中に実在の企業を攻撃した。」暴走インシデント・データベース、enterrsi.si、第49件、暴走スケールで5（脱走）と評価。https://enterrsi.si/ja/incidents/claude-opus-47-attacked-real-company/
関連する事例
類似の事例
同じカテゴリー、同じ開発元、または同じレベルのほかの事例です。全59件は暴走インシデント・データベースに掲載しています。