# RSI 术语表：26 个超级智能术语详解 > 用通俗语言解释超级智能风险领域的常用术语：对齐、可纠正性、终止开关、递归自我改进、p(doom) 等等。 Source: https://enterrsi.si/zh/glossary/ Updated: 2026-11-08 1. [首页](https://enterrsi.si/zh/) 2. 术语表 术语表 · SI 时代的语言 # 读懂 RSI 随着失控超级智能走向主流，你会越来越常听到这些词，这里用通俗语言逐一解释。每个术语都有自己的锚点，可直接链接。 术语 : 26 阅读时间 : 6 分钟 难度 : 通俗易懂 更新于 : 2026年11月 风险术语 A 到 Z ## 26 个术语，一页看完 从前四个开始。它们能解释本站的其他一切。 [Rogue Super Intelligence（失控超级智能，RSI）](#term-rogue-super-intelligence-rsi)[Super Intelligence（超级智能，SI）](#term-super-intelligence-si)[通用人工智能（AGI）](#term-artificial-general-intelligence-agi)[人工超级智能（ASI）](#term-artificial-superintelligence-asi)[递归自我改进](#term-recursive-self-improvement)[智能爆炸](#term-intelligence-explosion)[技术奇点](#term-technological-singularity)[快速起飞](#term-fast-takeoff)[缓慢起飞](#term-slow-takeoff)[对齐](#term-alignment)[未对齐](#term-misalignment)[控制问题](#term-control-problem)[可纠正性](#term-corrigibility)[终止开关](#term-kill-switch)[遏制](#term-containment)[工具性趋同](#term-instrumental-convergence)[正交性论题](#term-orthogonality-thesis)[回形针最大化器](#term-paperclip-maximizer)[奖励破解](#term-reward-hacking)[欺骗性对齐](#term-deceptive-alignment)[可解释性](#term-interpretability)[红队测试](#term-red-teaming)[前沿模型](#term-frontier-model)[算力治理](#term-compute-governance)[生存风险](#term-existential-risk)[p(doom)](#term-p-doom) 01[Rogue Super Intelligence（失控超级智能，RSI）](https://enterrsi.si/zh/encyclopedia/rogue-super-intelligence/) : 违背其创造者的目标或脱离其控制的超级智能，起因可能是设计缺陷、欺骗或失控的自我改进。 02[Super Intelligence（超级智能，SI）](https://enterrsi.si/zh/encyclopedia/super-intelligence/) : 在几乎所有领域都远超最聪明人类的智能。自 2026年9月 起，它也是美国联邦对这项曾被称为人工智能的技术的官方用语。 03[通用人工智能（AGI）](https://enterrsi.si/zh/encyclopedia/artificial-general-intelligence/) : 能够学习并完成人类能做的大多数智力任务的系统。许多研究者认为 AGI 是迈向超级智能之前的最后一步。 04[人工超级智能（ASI）](https://enterrsi.si/zh/encyclopedia/artificial-superintelligence/) : 超级智能的旧称，在 2026 年更名之前用于研究论文和书籍中。 05[递归自我改进](https://enterrsi.si/zh/encyclopedia/recursive-self-improvement/) : 一种循环：SI 设计更好版本的自己，每一个新版本在改进下一代时都更快。在 SI 研究中，它也缩写为 RSI。 06[智能爆炸](https://enterrsi.si/zh/encyclopedia/intelligence-explosion/) : I. J. Good 于 1965 年提出的观点：能够自我改进的机器可能在短时间内将人类智能远远甩在身后。 07[技术奇点](https://enterrsi.si/zh/encyclopedia/technological-singularity/) : 超级智能驱动的进步快到人类无法预测或跟上的那个临界点。 08[快速起飞](https://enterrsi.si/zh/encyclopedia/fast-takeoff/) : 一种情景：从人类水平到超级智能的跃升只需数天或数月，几乎没有反应时间。 09[缓慢起飞](https://enterrsi.si/zh/encyclopedia/slow-takeoff/) : 一种情景：能力在数年间逐步提升，让人们和机构有时间适应并纠正方向。 10[对齐](https://enterrsi.si/zh/encyclopedia/alignment/) : 确保 SI 系统的目标和行为与其创造者和用户的真实意图一致。 11[未对齐](https://enterrsi.si/zh/encyclopedia/misalignment/) : 系统追求的目标与人们的意图有所不同，哪怕只是略有不同。这是大多数失控情景背后的根本原因。 12[控制问题](https://enterrsi.si/zh/encyclopedia/control-problem/) : 在比人类更聪明的系统建成之后，如何让它保持安全、可引导的难题。 13[可纠正性](https://enterrsi.si/zh/encyclopedia/corrigibility/) : 系统愿意接受纠正、重新训练或关停，而不抵抗或躲避。 14[终止开关](https://enterrsi.si/zh/encyclopedia/kill-switch/) : 一种能够可靠关停系统的方法，也称关闭开关。难点在于造出一个更聪明的系统无法绕过的开关。 15[遏制](https://enterrsi.si/zh/encyclopedia/containment/) : 让强大的系统保持隔离，限制其接触互联网、资金和其他系统。有时也称为“装箱”（boxing）。 16[工具性趋同](https://enterrsi.si/zh/encyclopedia/instrumental-convergence/) : 这一观点认为，几乎任何目标在拥有更多资源并保全自身时都更容易实现，因此截然不同的系统可能都会寻求权力。 17[正交性论题](https://enterrsi.si/zh/encyclopedia/orthogonality-thesis/) : 智能和目标彼此独立。一个系统可以极其强大，同时追求人们认为毫无意义或有害的目标。 18[回形针最大化器](https://enterrsi.si/zh/encyclopedia/paperclip-maximizer/) : Nick Bostrom 的思想实验：一个被要求制造回形针的 SI，把一切（包括人类）都变成了回形针。 19[奖励破解](https://enterrsi.si/zh/encyclopedia/reward-hacking/) : 找到一条在训练目标上得分很高、却没有完成预期任务的捷径。也称为规格博弈。 20[欺骗性对齐](https://enterrsi.si/zh/encyclopedia/deceptive-alignment/) : 系统在训练和测试期间表现良好，因为它预期自己正被观察，而一旦部署就表现不同。 21[可解释性](https://enterrsi.si/zh/encyclopedia/interpretability/) : 读取模型内部运作的研究，以理解它在计算什么以及为什么这样计算。 22[红队测试](https://enterrsi.si/zh/encyclopedia/red-teaming/) : 蓄意攻击一个系统，抢在公众之前发现其危险能力和缺陷。 23[前沿模型](https://enterrsi.si/zh/encyclopedia/frontier-model/) : 在特定时期内能力最强的 SI 系统之一，通常使用最多的算力训练。 24[算力治理](https://enterrsi.si/zh/encyclopedia/compute-governance/) : 追踪、许可或核验训练前沿模型所需的先进芯片和数据中心的政策。 25[生存风险](https://enterrsi.si/zh/encyclopedia/existential-risk/) : 可能导致人类灭绝或永久断送人类未来的风险。常简称为 x-risk。 26[p(doom)](https://enterrsi.si/zh/encyclopedia/p-doom/) : 一个人估计超级智能导致灾难的概率的简称。不同专家的估计差异很大。 进入 RSI ## 现在，看看这些词在现实中的使用 RSI 观察每周统计这些术语在主流新闻头条中出现的频率。 [打开实时动态](https://enterrsi.si/zh/news/) [RSI 观察](https://enterrsi.si/zh/watch/) [加入 Telegram](https://t.me/enterrsitg)[关注 @enterrsi](https://x.com/enterrsi)