通俗解释
Anthropic 于 2023年9月 发布了首份 Responsible Scaling Policy（负责任扩展政策）。其理念是一套“如果……那么……”式的承诺：如果一个模型达到某个既定的能力等级，例如能为生物武器提供实质性帮助或能够自主开展研究，那么在继续训练或发布之前，必须落实特定的安全和部署保障措施。这些等级称为 ASL-1、ASL-2 等，参照的是用于危险病原体的生物安全等级。
该政策已经多次修改。2026年2月24日 发布的 3.0 版围绕一份公开的 Frontier Safety Roadmap（前沿安全路线图）和定期的 Risk Reports（风险报告）进行了重写，并删去了先前隐含的暂停承诺。2026年7月8日 发布的 3.4 版增加了在某些情况下对风险报告的外部审查，以及每年一次的第三方合规审查。这个名称也已成为通用名词：负责任扩展政策常被用来指代任何此类实验室框架，与 OpenAI 的 Preparedness Framework 和 Google DeepMind 的 Frontier Safety Framework 并列。
对失控 SI 的意义
负责任扩展是各实验室就“不构建自己无法控制的系统”所作出的主要承诺。遏制评分榜评估的是这些承诺的具体程度、约束力以及是否受到核查。
实验室政策
- Responsible Scaling Policy Anthropic · 版本 3.4