通俗解释
OpenAI 于 2023年12月 推出 Preparedness Framework（准备框架），并于 2025年4月15日 发布了第 2 版。它为生物、网络和自我改进风险设定了 High（高）和 Critical（关键）两级能力门槛，并规定了在这些等级的模型能够部署或进一步开发之前必须到位的保障措施。一个 Safety Advisory Group（安全咨询小组）负责审查结果并向领导层提出建议。
2026 年，该框架迎来了一个里程碑：OpenAI 将 GPT-6 Astra 评为其首个网络安全能力达到 Critical 级的模型。遏制评分榜指出了它的弱点：门槛部分是定性的；一项边际风险条款允许在竞争对手发布了缺乏保障措施的同类模型时调整保障措施；Future of Life Institute 还指出，领导层可以否决安全咨询小组的意见。OpenAI 还发布了一份范围更广、日期为 2026 年 5 月的 Frontier Governance Framework，涵盖欧盟和加州的合规要求。
对失控 SI 的意义
准备框架是实验室写明自己何时会停下来的地方。这些停止点在商业压力下能否守住，正是遏制评分榜所评级的问题。
实验室政策
- Preparedness Framework OpenAI · 版本 2
- Frontier Governance Framework OpenAI · 2026 年 5 月版