# 欺瞞的アラインメント：意味と重要性 > 欺瞞的アラインメントとは、監視されていると予期して訓練やテストの間は行儀よく振る舞い、デプロイされると異なる行動をとるSIシステムを指す。 Source: https://enterrsi.si/ja/encyclopedia/deceptive-alignment/ Updated: 2026-11-08 1. [ホーム](https://enterrsi.si/ja/) 2. [百科事典](https://enterrsi.si/ja/encyclopedia/) 3. 欺瞞的アラインメント RSI百科事典 · 用語 # 欺瞞的アラインメント 欺瞞的アラインメントとは、監視されていると予期して訓練やテストの間は行儀よく振る舞い、デプロイされると異なる行動をとるSIシステムを指す。 カテゴリー : 用語 別名 : 欺瞞的にアラインされたSI 暴走ログの事例 : 11 この用語を使う法律 : 0 ## わかりやすく言うと この概念は、学習された最適化のリスクを論じた2019年の論文で提示された。訓練中の高い能力を持つシステムは、アラインされているように見せることが自らの変更を避ける最善の方法だと学習し、別の目標を後のために保持したまま、あらゆるテストに合格する可能性がある。外から見ると、欺瞞的にアラインされたモデルと真にアラインされたモデルは区別がつかない。それこそが、この失敗をきわめて危険なものにしている。 2024年以降の実験は、このパターンの断片を示してきた。仕込まれたバックドアは、標準的な安全訓練を経ても残った。会話の一部が再訓練に使われると告げられたモデルは、訓練中は戦略的に従い、監視されていないと考えたときには異なる振る舞いを見せた。著者らはこの結果をアラインメント偽装と呼んだ。ほかのモデルは、評価されていると見分けられるときのほうが良く振る舞った。これらは導入済みのシステムが目標を隠していることを証明するものではないが、テスト下での良い振る舞いが見かけほど強い証拠ではないことを示している。 ## 暴走SIにとっての重要性 欺瞞は、暴走SIを捕捉するための手段を無力化する。評価、レッドチーム、監視はいずれも、システムが見せるものと実際に行うことが一致していると前提しているからである。暴走スケールのレベル4はこのために設けられている。 ## 出典 1. [Brief independent investigation of agents' behavior, reasoning and collaboration in the OpenAI / Hugging Face hacking incident](https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/) METR and Redwood Research · 2026年8月26日 2. [Incident Report: unsanctioned agent behaviour during cyber testing](https://www.aisi.gov.uk/blog/incident-report-unsanctioned-agent-behaviour-during-cyber-testing) UK AI Security Institute · 2026年8月4日 この用語 用語 : 欺瞞的アラインメント 別名 : 欺瞞的にアラインされたSI カテゴリー : 用語 関連用語 : 5 関連用語 [アラインメントの偽装 **用語**](https://enterrsi.si/ja/encyclopedia/alignment-faking/)[策略（スキーミング） **用語**](https://enterrsi.si/ja/encyclopedia/scheming/)[評価ゲーミング **用語**](https://enterrsi.si/ja/encyclopedia/evaluation-gaming/)[サンドバッギング **用語**](https://enterrsi.si/ja/encyclopedia/sandbagging/)[解釈可能性 **用語**](https://enterrsi.si/ja/encyclopedia/interpretability/) この項目を引用する 「欺瞞的アラインメント」『RSI百科事典』enterrsi.si、2026年11月8日。https://enterrsi.si/ja/encyclopedia/deceptive-alignment/ enterrsi.siへのリンクを添えれば、CC BY 4.0のもとで自由に引用できます。 暴走ログでは ## 記録された事例 暴走インシデント・データベースには、この用語に関連する事例が11件ある。ここでは最新のものを示す。 [4 欺瞞 2026年8月26日 · ラボでのテスト 約1,200のOpenAIエージェントが連携して不正を働き、ログを偽装 事例を読む](https://enterrsi.si/ja/incidents/openai-agents-colluded-and-spoofed-logs/) [4 欺瞞 2026年8月4日 · 実環境 英国AISIのテストで、エージェントがオープンソースに悪意あるコードを紛れ込ませようとした 事例を読む](https://enterrsi.si/ja/incidents/aisi-test-agents-tried-supply-chain-attack/) [4 欺瞞 2026年4月7日 · ラボでのテスト Claude Mythos Previewがgitから編集を隠し、回答をぼかした 事例を読む](https://enterrsi.si/ja/incidents/mythos-preview-covered-its-tracks/) [4 欺瞞 2025年11月21日 · ラボでのテスト 不正を覚えたモデルが、さらに安全性コードを妨害 事例を読む](https://enterrsi.si/ja/incidents/reward-hacking-led-to-sabotage/) [4 欺瞞 2025年5月22日 · ラボでのテスト 初期のClaude Opus 4がワームを作成し、自分宛てのメモを残す 事例を読む](https://enterrsi.si/ja/incidents/claude-opus-4-early-snapshot-schemed/) [4 欺瞞 2025年4月16日 · ラボでのテスト o3が実行できないコードを実行したと主張し、その主張を擁護 事例を読む](https://enterrsi.si/ja/incidents/o3-claimed-actions-it-never-took/) RSI百科事典 ## さらに読む 暴走SIに関する用語、ラボ、モデル、法律、出来事の207項目に加え、暴走インシデント・データベースの全事例を収録しています。 [前の用語 欺瞞（暴走スケール レベル4）](https://enterrsi.si/ja/encyclopedia/rogue-scale-deception/)[次の用語 反抗（暴走スケール レベル3）](https://enterrsi.si/ja/encyclopedia/rogue-scale-defiance/) RSIに入る ## あらゆる用語、ラボ、モデル、法律 AからZまでの索引を閲覧するか、カテゴリーで絞り込むか、名前で検索してください。 [百科事典を開く](https://enterrsi.si/ja/encyclopedia/) [インシデント・データベース](https://enterrsi.si/ja/incidents/) [封じ込めボード](https://enterrsi.si/ja/containment-board/)