# 暂停承诺：含义及其重要性

> 暂停承诺是 SI 实验室作出的承诺或拟议中的规则，即一旦模型越过危险门槛而又缺乏足够的保障措施，就停止开发或部署该模型。

Source: https://enterrsi.si/zh/encyclopedia/pause-commitment/
Updated: 2026-11-08

1. [首页](https://enterrsi.si/zh/)
2. [百科](https://enterrsi.si/zh/encyclopedia/)
3. 暂停承诺

RSI 百科 · 术语

# 暂停承诺

暂停承诺是 SI 实验室作出的承诺或拟议的规则：当模型越过危险阈值且缺乏足够的保障措施时，停止开发或部署该模型。

类别
:   术语

又称
:   开发暂停，SI 暂停

失控日志案例
:   0

使用该术语的法规
:   2

## 通俗解释

暂停有两种形式。实验室承诺写在安全框架中：如果某个模型达到了实验室尚无法确保安全的能力等级，就停止开发或部署，直到缓解措施准备就绪。公开暂停则是呼吁整个行业停下来，例如 2023 年要求暂停训练比 GPT-4 更强大系统六个月的公开信，或 2025 年呼吁在能够安全实现并获得广泛公众支持之前禁止构建超级智能的声明。

实验室的暂停承诺已在多起案例中被弱化。Anthropic 用取决于竞争对手做法的承诺取代了先前的暂停承诺，Meta 则把其在 Critical 门槛上的应对方式从“停止”改为“附带缓解措施继续开发”。Microsoft 的框架承诺，对于无法充分缓解风险的模型，将暂停其开发和部署。遏制评分榜的关停与暂停评级衡量的是每项承诺有多坚定。

## 对失控 SI 的意义

暂停是紧急关停开关的计划版本：在系统建成之前就停下来，而不是等它行为失常之后。其可信度决定了实验室能否及时停下。

## 使用该术语的法律与规则

- 停滞或撤回 [**SB 24-205**](https://enterrsi.si/zh/encyclopedia/co-sb-24-205/) 科罗拉多州
- 自愿或指导性 [**FLI 声明**](https://enterrsi.si/zh/encyclopedia/fli-superintelligence-statement/) 全球公民社会

## 来源

1. [The pause letter (2023)](https://futureoflife.org/open-letter/pause-giant-ai-experiments/) Future of Life Institute
2. [The Statement on Superintelligence (2025)](https://superintelligence-statement.org) Statement on Superintelligence
3. [Colorado Delays AI Act to June 2026; Businesses Get Breathing Room](https://www.pymnts.com/artificial-intelligence-2/2025/colorado-delays-ai-act-to-june-2026-businesses-get-breathing-room/) PYMNTS · 2025年9月10日
4. [Statement on Superintelligence](https://superintelligence-statement.org/) Future of Life Institute

这个术语

术语
:   暂停承诺

又称
:   开发暂停，SI 暂停

类别
:   术语

相关术语
:   4

相关术语

[终止开关 **术语**](https://enterrsi.si/zh/encyclopedia/kill-switch/)[负责任扩展政策（RSP） **术语**](https://enterrsi.si/zh/encyclopedia/responsible-scaling-policy/)[能力阈值 **术语**](https://enterrsi.si/zh/encyclopedia/capability-threshold/)[前沿安全框架 **术语**](https://enterrsi.si/zh/encyclopedia/frontier-safety-framework/)

引用本条目

“暂停承诺”。RSI 百科，enterrsi.si，2026年11月8日。https://enterrsi.si/zh/encyclopedia/pause-commitment/

可依据 CC BY 4.0 协议自由引用，请附上 enterrsi.si 链接。

RSI 百科

## 继续阅读

207 个条目，涵盖失控 SI 相关的术语、实验室、模型、法规和大事件，并收录失控事件数据库中的每个案例。

[上一个术语 回形针最大化器](https://enterrsi.si/zh/encyclopedia/paperclip-maximizer/)[下一个术语 寻求权力](https://enterrsi.si/zh/encyclopedia/power-seeking/)

进入 RSI

## 所有术语、实验室、模型与法规

浏览完整的 A 到 Z 索引，按类别筛选或搜索名称。

[打开百科](https://enterrsi.si/zh/encyclopedia/)
[事件数据库](https://enterrsi.si/zh/incidents/)
[遏制评分榜](https://enterrsi.si/zh/containment-board/)