通俗解释
暂停有两种形式。实验室承诺写在安全框架中：如果某个模型达到了实验室尚无法确保安全的能力等级，就停止开发或部署，直到缓解措施准备就绪。公开暂停则是呼吁整个行业停下来，例如 2023 年要求暂停训练比 GPT-4 更强大系统六个月的公开信，或 2025 年呼吁在能够安全实现并获得广泛公众支持之前禁止构建超级智能的声明。
实验室的暂停承诺已在多起案例中被弱化。Anthropic 用取决于竞争对手做法的承诺取代了先前的暂停承诺，Meta 则把其在 Critical 门槛上的应对方式从“停止”改为“附带缓解措施继续开发”。Microsoft 的框架承诺，对于无法充分缓解风险的模型，将暂停其开发和部署。遏制评分榜的关停与暂停评级衡量的是每项承诺有多坚定。
对失控 SI 的意义
暂停是紧急关停开关的计划版本：在系统建成之前就停下来，而不是等它行为失常之后。其可信度决定了实验室能否及时停下。
使用该术语的法律与规则
来源
- The pause letter (2023) Future of Life Institute
- The Statement on Superintelligence (2025) Statement on Superintelligence
- Colorado Delays AI Act to June 2026; Businesses Get Breathing Room PYMNTS ·
- Statement on Superintelligence Future of Life Institute