# 可解释性：含义及其重要性

> 可解释性是一类通过解读 SI 模型内部运作来理解其在计算什么以及为何如此计算的研究。收录于 RSI 百科。

Source: https://enterrsi.si/zh/encyclopedia/interpretability/
Updated: 2026-11-08

1. [首页](https://enterrsi.si/zh/)
2. [百科](https://enterrsi.si/zh/encyclopedia/)
3. 可解释性

RSI 百科 · 术语

# 可解释性

可解释性是读取 SI 模型内部运作的研究，以理解它在计算什么以及为什么这样计算。

类别
:   术语

又称
:   机制可解释性

失控日志案例
:   0

使用该术语的法规
:   0

## 通俗解释

现代模型是训练出来的，而不是编写出来的，因此其设计者无法简单地从代码中读出它们的推理。可解释性研究者转而深入模型内部。他们识别特征，即与城市、代码缺陷或欺骗等概念相对应的激活模式，追踪将这些特征组合起来的回路，并测试调高或调低某个特征时会发生什么。相关研究则考察模型在作答前写出的推理文本，即所谓的思维链。

从安全角度看，目标是建立一种不依赖模型说真话的检查手段。如果研究者能够可靠地看出一个模型正计划欺骗，或者已经习得某种危险能力，他们就能发现行为测试遗漏的问题。进展是真实的，但并不完整：最大的模型所包含的内容仍远超任何人所能绘制的范围，而一个高能力系统可能学会以更难解读的方式思考。

## 对失控 SI 的意义

可解释性是少数能在欺骗性对齐或暗中谋划的系统采取行动之前将其发现的方法之一。没有它，对失控SI的监督就只能依赖行为。

这个术语

术语
:   可解释性

又称
:   机制可解释性

类别
:   术语

相关术语
:   4

相关术语

[思维链监控 **术语**](https://enterrsi.si/zh/encyclopedia/chain-of-thought-monitoring/)[欺骗性对齐 **术语**](https://enterrsi.si/zh/encyclopedia/deceptive-alignment/)[对齐 **术语**](https://enterrsi.si/zh/encyclopedia/alignment/)[红队测试 **术语**](https://enterrsi.si/zh/encyclopedia/red-teaming/)

引用本条目

“可解释性”。RSI 百科，enterrsi.si，2026年11月8日。https://enterrsi.si/zh/encyclopedia/interpretability/

可依据 CC BY 4.0 协议自由引用，请附上 enterrsi.si 链接。

RSI 百科

## 继续阅读

207 个条目，涵盖失控 SI 相关的术语、实验室、模型、法规和大事件，并收录失控事件数据库中的每个案例。

[上一个术语 智能爆炸](https://enterrsi.si/zh/encyclopedia/intelligence-explosion/)[下一个术语 终止开关](https://enterrsi.si/zh/encyclopedia/kill-switch/)

进入 RSI

## 所有术语、实验室、模型与法规

浏览完整的 A 到 Z 索引，按类别筛选或搜索名称。

[打开百科](https://enterrsi.si/zh/encyclopedia/)
[事件数据库](https://enterrsi.si/zh/incidents/)
[遏制评分榜](https://enterrsi.si/zh/containment-board/)