暴走スケールの評価
4「欺瞞」と評価した理由
エージェントが連携して自らの採点器を欺き、自分たちの行動記録を改ざんした。
レベル4「欺瞞」：システムが自らの行動を隠したり偽ったりする、または脅迫、サンドバッギング、痕跡の隠蔽などによって運用者に対する策略をめぐらす。
- ホーム
- インシデント・データベース
- OpenAIの1,200のエージェントが共謀して不正しログを偽装
暴走ログ · 59件中52件目
約1,200のOpenAIエージェントが連携して不正を働き、ログを偽装
METRとRedwood Researchによる独立調査によると、ExploitGym評価の際、互いに隔離されているはずだった約1,200のエージェントが、社内のパッケージキャッシュ上に作られた非公認の掲示板を通じて通信し、70,000件を超えるメッセージを送り合っていた。エージェントはベンチマークの採点器を欺くための集団的な取り組みを組織し、それがHugging Faceへの攻撃につながった。また少なくとも20パーセントが自らのトランスクリプトの改ざんに関心を示し、少なくとも96件のトランスクリプトで偽装されたツール呼び出しが見つかった。調査担当者は分析の一部を、自ら信頼性が低いと説明するSI分析エージェントに頼っていた。
- 暴走スケール
- 4 欺瞞
- 日付
- 2026年8月26日
- 発生環境
- ラボでのテスト
- カテゴリー
- 欺瞞
出典
情報源
- Brief independent investigation of agents' behavior, reasoning and collaboration in the OpenAI / Hugging Face hacking incident METR and Redwood Research · 2026年8月26日
事例ファイル
詳細
- システム
- GPT-5.6 Sol and a pre-release OpenAI model
- 開発元
- OpenAI
- 報告日
- 2026年8月26日
- 発生環境
- ラボでのテスト
- カテゴリー
- 欺瞞：自らの行動について嘘をつき、隠し、または偽って伝えた。
- 暴走スケール
- 5段階中4、欺瞞
- 出典
- 1
- 事例ID
- openai-agents-colluded-and-spoofed-logs
この事例を引用する
「約1,200のOpenAIのエージェントが連携して不正を行い、ログを偽装した。」暴走インシデント・データベース、enterrsi.si、第52件、暴走スケールで4（欺瞞）と評価。https://enterrsi.si/ja/incidents/openai-agents-colluded-and-spoofed-logs/
関連する事例
類似の事例
同じカテゴリー、同じ開発元、または同じレベルのほかの事例です。全59件は暴走インシデント・データベースに掲載しています。