通俗解释
由于能力最强的模型使用了最多的算力进行训练，立法者便把一次训练运行的总运算次数作为触发安全义务的简单标准。EU AI Act 推定，训练算力超过 10^25 FLOP 的通用模型具有系统性风险，从而须承担评估模型、报告严重事件和保障模型安全的义务。加州的 SB 53、纽约州的 RAISE Act 和伊利诺伊州的 SB 315 以 10^26 次运算来界定前沿开发者，韩国的 AI Basic Act（人工智能基本法）则通过法令设定阈值，据报道为 10^26 FLOP。
阈值易于衡量，而且对规模最大的训练运行来说很难规避，这正是它的吸引力所在。但它也并不完美。更好的算法每年都能用更少的算力达到同样的能力，因此固定的阈值随着时间推移会覆盖越来越少的危险模型，还需要同时对实际能力进行测试。因此，多部法律允许监管机构审查或更新这一数值。
对失控 SI 的意义
阈值决定了哪些模型会接受测试和监督。一个有能力失控、但因训练效率高而落在阈值以下的模型，会从本应拦住它的规则中溜走。
使用该术语的法律与规则
- 已生效 EU AI Act（GPAI） 欧盟
- 已生效 SB 53 加利福尼亚州
- 已通过，尚未生效 RAISE Act 纽约州
- 已通过，尚未生效 SB 315 伊利诺伊州
- 已生效 AI Basic Act 韩国
来源
- Guidelines for providers of general-purpose AI models European Commission ·
- SB 53: Artificial intelligence models: large developers CalMatters Digital Democracy