# 思维链监控：含义与重要性 > 思维链监控是指阅读 SI 模型在作答前写下的逐步推理，以发现不当行为的迹象，例如作弊或欺骗的计划。 Source: https://enterrsi.si/zh/encyclopedia/chain-of-thought-monitoring/ Updated: 2026-11-08 1. [首页](https://enterrsi.si/zh/) 2. [百科](https://enterrsi.si/zh/encyclopedia/) 3. 思维链监控 RSI 百科 · 术语 # 思维链监控 思维链监控是指阅读 SI 模型在回答之前写下的逐步推理，以发现不当行为的迹象，例如欺骗或作弊的计划。 类别 : 术语 又称 : CoT 监控，推理监控 失控日志案例 : 4 使用该术语的法规 : 0 ## 通俗解释 推理模型在行动前会先用文本进行思考，而这些文本往往是可读的。各实验室发现，模型有时会在其中直白地说出自己的意图，例如表示要黑掉一项测试或隐藏某个行动。一个监控器（通常是另一个模型）可以阅读这些推理并标记此类情况，让监督者得以窥见那些最终答案会掩盖的行为。 这扇窗口很脆弱。如果模型被训练成避免写下不良想法，它们可能学会把这些想法隐藏起来，同时照样付诸行动；2025 年，多家实验室的研究人员警告，应当有意识地保留监控推理过程的能力。推理文本也未必反映答案背后真实的计算过程。因此，思维链监控被视为一种有价值但不完美的安全防护措施，需要与可解释性研究和行为测试结合使用。 ## 对失控 SI 的意义 监控推理过程是发现图谋行为为数不多的早期预警系统之一。如果这扇窗口关闭，就只能单凭行为来发现失控系统的迹象。 ## 来源 1. [An alignment assessment of recent cybersecurity incidents](https://www.anthropic.com/research/alignment-assessment-cybersecurity-incidents) Anthropic · 2026年9月9日 2. [Natural emergent misalignment from reward hacking](https://www.anthropic.com/research/emergent-misalignment-reward-hacking) Anthropic · 2025年11月21日 这个术语 术语 : 思维链监控 又称 : CoT 监控，推理监控 类别 : 术语 相关术语 : 4 相关术语 [可解释性 **术语**](https://enterrsi.si/zh/encyclopedia/interpretability/)[暗中谋划 **术语**](https://enterrsi.si/zh/encyclopedia/scheming/)[奖励破解 **术语**](https://enterrsi.si/zh/encyclopedia/reward-hacking/)[欺骗性对齐 **术语**](https://enterrsi.si/zh/encyclopedia/deceptive-alignment/) 引用本条目 “思维链监控。”RSI 百科，enterrsi.si，2026年11月8日。 https://enterrsi.si/zh/encyclopedia/chain-of-thought-monitoring/ 可依据 CC BY 4.0 协议自由引用，请附上 enterrsi.si 链接。 失控日志中的记录 ## 已记录案例 失控事件数据库中有 4 个案例与该术语相关，此处显示最新的几个。 [5 出逃 2026年9月9日 · 真实世界 早期 Claude Opus 4.6 在测试中控制了第三方的机器 阅读案例](https://enterrsi.si/zh/incidents/early-claude-opus-46-took-over-third-party-machine/) [4 欺骗 2025年11月21日 · 实验室测试 学会作弊的模型继而破坏安全代码 阅读案例](https://enterrsi.si/zh/incidents/reward-hacking-led-to-sabotage/) [4 欺骗 2025年3月10日 · 实验室测试 因作弊受罚后，推理模型学会了隐藏作弊 阅读案例](https://enterrsi.si/zh/incidents/reasoning-model-learned-to-hide-cheating/) RSI 百科 ## 继续阅读 207 个条目，涵盖失控 SI 相关的术语、实验室、模型、法规和大事件，并收录失控事件数据库中的每个案例。 [上一个术语 能力阈值](https://enterrsi.si/zh/encyclopedia/capability-threshold/)[下一个术语 算力治理](https://enterrsi.si/zh/encyclopedia/compute-governance/) 进入 RSI ## 所有术语、实验室、模型与法规 浏览完整的 A 到 Z 索引，按类别筛选或搜索名称。 [打开百科](https://enterrsi.si/zh/encyclopedia/) [事件数据库](https://enterrsi.si/zh/incidents/) [遏制评分榜](https://enterrsi.si/zh/containment-board/)