前沿安全框架

通俗解释

在 2024 年首尔峰会上，大多数领先实验室同意为其前沿模型发布安全框架；到 2026 年，几乎每家主要开发商都有了某种名义的安全框架：Anthropic 的 Responsible Scaling Policy、OpenAI 的 Preparedness Framework、Google DeepMind 的 Frontier Safety Framework、Meta 的 Superintelligence Scaling Framework、xAI 的 Frontier Artificial Intelligence Framework、Microsoft 的 Frontier Governance Framework，以及 Amazon 的 Frontier Model Safety Framework。

这些框架的结构大同小异。它们列出化学和生物武器、网络攻击、自主复制和自动化 SI 研究等严重风险领域，界定哪些能力等级算作危险，并为每个等级承诺相应的保障措施。它们的差异在于：门槛的可衡量程度、承诺是具有约束力还是可自由裁量，以及由谁来核查合规情况。法律已开始强制要求这类框架：例如，纽约的 RAISE Act 要求大型前沿开发商发布此类框架，并每年审查一次。

对失控 SI 的意义

这些框架是各实验室为避免失控SI而为自己制定的规则。遏制评分榜上的安全框架评级衡量的是每个框架的具体程度和可执行程度。

使用该术语的法律与规则

• 已生效 EO 14365 美国
• 已提出 FRONTIER Act 美国
• 已生效 SB 53 加利福尼亚州
• 已生效 EO N-9-26 加利福尼亚州
• 已通过，尚未生效 RAISE Act 纽约州
• 已通过，尚未生效 SB 315 伊利诺伊州
• 自愿或指导性 框架 3.0 中国
• 自愿或指导性 自愿行为准则 加拿大

实验室政策

• Responsible Scaling Policy Anthropic · 版本 3.4
• Preparedness Framework OpenAI · 版本 2
• Frontier Governance Framework OpenAI · 2026 年 5 月版
• Frontier Safety Framework Google DeepMind · 版本 3.1
• Superintelligence Scaling Framework Meta · 版本 2.1
• Frontier Artificial Intelligence Framework xAI · 版本 2026年6月30日
• Frontier Governance Framework Microsoft · 版本 2026年2月
• Frontier Model Safety Framework Amazon · 版本 2026年9月

来源

1. Ensuring a National Policy Framework for Artificial Intelligence Federal Register · 2025年12月16日
2. H.R. 9925, FRONTIER Act, 119th Congress LegiScan