概述
Frontier AI Safety Commitments, AI Seoul Summit 2024
发起时有 16 家公司，后来又增加了 Magic、MiniMax、01.ai 和 NVIDIA，共计 20 家。
具体要求
- 在全生命周期中评估风险，包括部署之前
- 设定阈值，超过阈值的严重风险除非得到充分缓解，否则被视为不可容忍
- 在极端情况下，如果无法将风险控制在阈值以下，就不开发或部署模型
- 在下一届法国峰会之前发布聚焦严重风险的安全框架
- 在安全方法上保持内部问责和公开透明
处罚
无处罚：该措施没有强制执行力。
状态
自愿或指导性 截至 2026年11月8日，依据管控地图的国际峰会系列页面。状态遵循管控地图的方法：已生效指具有约束力且正在适用；已通过指已颁布但尚未适用；自愿涵盖指导意见与承诺；已提出指已正式提交；停滞指已撤回、暂停或终止。
来源
- Frontier AI Safety Commitments, AI Seoul Summit 2024 UK Government ·