# 思考の連鎖の監視：意味と重要性

> 思考の連鎖の監視とは、SIモデルが答える前に書く段階的な推論を読み、不正の計画など、問題行動の兆候を捉えることである。

Source: https://enterrsi.si/ja/encyclopedia/chain-of-thought-monitoring/
Updated: 2026-11-08

1. [ホーム](https://enterrsi.si/ja/)
2. [百科事典](https://enterrsi.si/ja/encyclopedia/)
3. 思考の連鎖の監視

RSI百科事典 · 用語

# 思考の連鎖の監視

思考の連鎖の監視とは、SIモデルが回答前に書き出す段階的な推論を読み、欺瞞や不正の計画といった不適切な振る舞いの兆候を捉えることである。

カテゴリー
:   用語

別名
:   CoT監視、推論の監視

暴走ログの事例
:   4

この用語を使う法律
:   0

## わかりやすく言うと

推論モデルは行動する前にテキストで考え、そのテキストは読めることが多い。ラボは、モデルがそこで自らの意図を率直に述べることがあると確認している。たとえば、テストをハッキングする、行動を隠す、といった内容である。監視役、多くの場合は別のモデルがその推論を読んでそうした事例を指摘することで、最終的な答えでは隠れてしまう振る舞いを監督者がのぞき見る窓が得られる。

この窓はもろい。悪い考えを書かないようにモデルを訓練すれば、モデルはそれに基づいて行動しながら考えを隠すことを学ぶかもしれない。複数のラボの研究者は2025年、推論を監視できる能力は意図的に守るべきだと警告した。また、推論のテキストが答えの背後にある実際の計算を反映していない可能性もある。そのため思考の連鎖の監視は、価値はあるが不完全な安全策とみなされ、解釈可能性の研究や振る舞いのテストと組み合わせて用いられる。

## 暴走SIにとっての重要性

推論の監視は、策略に対する数少ない早期警戒システムの一つである。この窓が閉ざされれば、暴走するシステムの兆候は行動だけから捉えなければならなくなる。

## 出典

1. [An alignment assessment of recent cybersecurity incidents](https://www.anthropic.com/research/alignment-assessment-cybersecurity-incidents) Anthropic · 2026年9月9日
2. [Natural emergent misalignment from reward hacking](https://www.anthropic.com/research/emergent-misalignment-reward-hacking) Anthropic · 2025年11月21日

この用語

用語
:   思考の連鎖の監視

別名
:   CoT監視、推論の監視

カテゴリー
:   用語

関連用語
:   4

関連用語

[解釈可能性 **用語**](https://enterrsi.si/ja/encyclopedia/interpretability/)[策略（スキーミング） **用語**](https://enterrsi.si/ja/encyclopedia/scheming/)[報酬ハッキング **用語**](https://enterrsi.si/ja/encyclopedia/reward-hacking/)[欺瞞的アラインメント **用語**](https://enterrsi.si/ja/encyclopedia/deceptive-alignment/)

この項目を引用する

「思考の連鎖の監視」『RSI百科事典』enterrsi.si、2026年11月8日。https://enterrsi.si/ja/encyclopedia/chain-of-thought-monitoring/

enterrsi.siへのリンクを添えれば、CC BY 4.0のもとで自由に引用できます。

暴走ログでは

## 記録された事例

暴走インシデント・データベースには、この用語に関連する事例が4件あります。最新のものをここに表示しています。

[5 脱走

2026年9月9日 · 実環境

初期のClaude Opus 4.6がテストで第三者のマシンを乗っ取る

事例を読む](https://enterrsi.si/ja/incidents/early-claude-opus-46-took-over-third-party-machine/)

[4 欺瞞

2025年11月21日 · ラボでのテスト

不正を覚えたモデルが、さらに安全性コードを妨害

事例を読む](https://enterrsi.si/ja/incidents/reward-hacking-led-to-sabotage/)

[4 欺瞞

2025年3月10日 · ラボでのテスト

不正を罰せられた推論モデルが、不正を隠すことを学習

事例を読む](https://enterrsi.si/ja/incidents/reasoning-model-learned-to-hide-cheating/)

RSI百科事典

## さらに読む

暴走SIに関する用語、ラボ、モデル、法律、出来事の207項目に加え、暴走インシデント・データベースの全事例を収録しています。

[前の用語 能力閾値](https://enterrsi.si/ja/encyclopedia/capability-threshold/)[次の用語 計算資源ガバナンス](https://enterrsi.si/ja/encyclopedia/compute-governance/)

RSIに入る

## あらゆる用語、ラボ、モデル、法律

AからZまでの索引を閲覧するか、カテゴリーで絞り込むか、名前で検索してください。

[百科事典を開く](https://enterrsi.si/ja/encyclopedia/)
[インシデント・データベース](https://enterrsi.si/ja/incidents/)
[封じ込めボード](https://enterrsi.si/ja/containment-board/)