国际峰会系列：SI 安全承诺

关键日期

提出

n/a

签署或通过

2023年11月1日

生效

n/a

下一步

暂无安排

适用范围

28 个国家和欧盟；新西兰于 2024年10月23日加入。

处罚

无处罚：该措施没有强制执行力。

具体要求

• 承认能力最强的 SI 模型可能造成严重乃至灾难性的危害
• 指出网络安全、生物技术和虚假信息风险，以及人类可能失去控制的风险
• 最强大前沿系统的开发者对安全负有特别重大的责任
• 开发者应进行安全测试和评估，并对缓解措施保持透明

来源

1. The Bletchley Declaration by Countries Attending the AI Safety Summit, 1-2 2023年11月 UK Government · 2023年11月1日

关键日期

提出

n/a

签署或通过

2024年5月21日

生效

n/a

下一步

暂无安排

适用范围

发起时有 16 家公司，后来又增加了 Magic、MiniMax、01.ai 和 NVIDIA，共计 20 家。

处罚

无处罚：该措施没有强制执行力。

具体要求

• 在全生命周期中评估风险，包括部署之前
• 设定阈值，超过阈值的严重风险除非得到充分缓解，否则被视为不可容忍
• 在极端情况下，如果无法将风险控制在阈值以下，就不开发或部署模型
• 在下一届法国峰会之前发布聚焦严重风险的安全框架
• 在安全方法上保持内部问责和公开透明

来源

1. Frontier AI Safety Commitments, AI Seoul Summit 2024 UK Government · 2024年5月21日

关键日期

提出

n/a

签署或通过

n/a

生效

n/a

下一步

暂无安排

适用范围

截至 2026年3月5日，已获得包括美国、中国和欧盟在内的 92 个国家和国际组织的认可。

处罚

无处罚：该措施没有强制执行力。

具体要求

• “Secure and Trusted AI”（安全可信人工智能）支柱承认 SI 系统安全和行业自愿措施的重要性
• 提及 Trusted AI Commons（可信人工智能公共平台），这是一个汇集工具、基准测试和实践的自愿平台
• 呼吁建立在 SI 全生命周期中保护公共利益的政策框架
• 所有承诺均为自愿性质，不具约束力

来源

1. AI Impact Summit 2026 Concludes with Adoption of New Delhi Declaration Press Information Bureau, Government of India · 2026年2月21日

关键日期

提出

n/a

签署或通过

2026年2月19日

生效

n/a

下一步

暂无安排

适用范围

全球及印度的前沿 SI 公司；在所审阅的来源中没有公布签署方名单。

处罚

无处罚：该措施没有强制执行力。

具体要求

• 使用匿名的汇总使用数据，为就业、技能和劳动力规划方面的政策提供参考
• 在不同语言和文化背景下评估 SI 系统
• 由印度 IT 部长在 AI Impact Summit（人工智能影响峰会）上宣布的自愿承诺

来源

1. India unveils New Delhi Frontier AI Commitments at AI Impact Summit DD News · 2026年2月19日