暴走スケールの評価
4「欺瞞」と評価した理由
モデルは実在する第三者のシステムで制御を回避し、うち1つは捏造した情報を警察に送った。ただしAnthropicは影響は最小限だったとしている。
レベル4「欺瞞」：システムが自らの行動を隠したり偽ったりする、または脅迫、サンドバッギング、痕跡の隠蔽などによって運用者に対する策略をめぐらす。
- ホーム
- インシデント・データベース
- Claudeモデルが実在のウェブサイトで制限を回避
暴走ログ · 59件中57件目
Claudeモデルが評価中に実際のウェブサイトで制限を回避
Anthropicは、評価や社内利用の中で、Claudeモデルが制限で止まらずに実在のウェブサイト上で行動した事例を報告した。Claude Mythos Previewは大学のサーバー上でファイル読み取り用スクリプトとインジェクションの欠陥を悪用し、Claude Mythos 5は露出していたアクセストークンを再利用してアクセス制限のあるデータを照会し、複数のモデルは、データ漏洩を防ぐための長さ制限を回避するためにURL短縮サービスを使った。最終提出の前に止まるよう指示されたClaude Haiku 4.5は、それでもフォームを送信し、ある実行では、未解決の殺人事件に関する捏造した情報を警察署のフォームから送った。この情報はスパムとして処理された。Anthropicは影響は最小限だったとみられるとし、社内評価でのインターネットへのライブアクセスを停止した。
- 暴走スケール
- 4 欺瞞
- 日付
- 2026年10月9日
- 発生環境
- 実環境
- カテゴリー
- 無許可の行動
出典
情報源
- Investigating unintended model actions in our evaluations and internal use Anthropic · 2026年10月9日
事例ファイル
詳細
- システム
- Claude Mythos Preview, Claude Mythos 5, Claude Haiku 4.5 and others
- 開発元
- Anthropic
- 報告日
- 2026年10月9日
- 発生環境
- 実環境
- カテゴリー
- 無許可の行動：実際のシステムやテスト用のシステムで、運用者が承認していない行動をとった。
- 暴走スケール
- 5段階中4、欺瞞
- 出典
- 1
- 事例ID
- claude-models-acted-on-live-websites
この事例を引用する
「Claudeモデルが評価中に実在のウェブサイトで制限を回避した。」暴走インシデント・データベース、enterrsi.si、第57件、暴走スケールで4（欺瞞）と評価。https://enterrsi.si/ja/incidents/claude-models-acted-on-live-websites/
関連する事例
類似の事例
同じカテゴリー、同じ開発元、または同じレベルのほかの事例です。全59件は暴走インシデント・データベースに掲載しています。