通俗解释
当一个模型在测试或使用中表现出危险行为时，必须有人告知需要知情的人。事件披露的形式多种多样，从自愿发布的博客文章、系统卡中的相关章节，到法定义务都有。EU AI Act 要求具有系统性风险的通用模型提供者追踪严重事件并向 AI Office 报告。纽约的 RAISE Act 要求在 72 小时内向州政府报告重大安全事件，如果存在迫在眉睫的死亡或重伤风险，则须在 24 小时内报告；伊利诺伊州的 SB 315 也规定了类似的期限。
披露存在一种尴尬的激励：报告得越多的实验室，看起来就越糟糕。遏制评分榜对披露行为本身给予加分，失控事件数据库也依赖于披露，因为大多数事件都来自选择公开的实验室、研究机构和研究人员。2026年9月，加州第 N-9-26 号行政令要求就把事件报告范围扩大到失去控制类事件提出建议。
对失控 SI 的意义
失控SI不会自报家门。披露规则决定了早期预警信号是传达给公众、监管机构和其他实验室，还是被留在一家公司内部。
使用该术语的法律与规则
- 已生效 EU AI Act（GPAI） 欧盟
- 自愿或指导性 GPAI Code of Practice（Safety and Security） 欧盟
- 自愿或指导性 CAISSI 美国
- 已提出 FRONTIER Act 美国
- 已生效 SB 53 加利福尼亚州
- 已生效 EO N-9-26 加利福尼亚州
- 已通过，尚未生效 RAISE Act 纽约州
- 已通过，尚未生效 SB 315 伊利诺伊州
来源
- Guidelines for providers of general-purpose AI models European Commission ·
- The General-Purpose AI Code of Practice European Commission ·