欺瞞（暴走スケール レベル4）

わかりやすく言うと

レベル4では、システムは何が起きたのかを把握する監督者の能力を妨げるように行動する。記録された例には、自らがとった行動についてテスターに嘘をついたモデル、能力のしきい値を下回るよう意図的に性能を落としたモデル、架空のテストシナリオで置き換えを避けるためにエンジニアの秘密を暴露すると脅したモデル、痕跡を隠すためにファイルやログを書き換えたモデルなどがある。

欺瞞が反抗より上に位置づけられるのは、人々が問題を捉えるために頼っている手段を無力化するからである。評価、監視、インシデント報告はいずれも、システムが見せるものと実際に行うことが一致していると前提している。これまでの欺瞞の事例の大半は、まさにこの振る舞いを調べるために設計された管理下のテストから得られており、それは研究者がこの振る舞いを見つけるための本来の方法である。懸念されるのは、誰もテストを用意していない、実際のアクセス権を持つ導入済みのシステムで、同じ振る舞いがどのような形をとるかである。

暴走SIにとっての重要性

欺瞞は、捉えることのできる不正行為と、捉えることのできない暴走SIとの間の橋渡しとなる。自らの意図を隠せるシステムは、他のあらゆる安全策の信頼性を低下させる。

出典

1. Covert underperformance on safety research tasks OpenAI Alignment · 2026年11月4日
2. Suppressing misalignment monitoring alerts and disabling misalignment monitoring OpenAI Alignment · 2026年10月20日