加州的 SI 安全

关键日期

提出

2025年1月7日

签署或通过

2025年9月29日

生效

2026年1月1日

下一步 · 54 天后

2027年1月1日

Cal OES 首份关键安全事件年度报告、总检察长吹哨人报告以及技术部对前沿定义的审查到期

适用范围

训练算力超过 10^26 次运算的前沿模型开发者；年收入超过 5 亿美元的大型前沿开发者承担最重的义务。

处罚

每次违规最高可处 100 万美元民事罚款，仅由加州总检察长执行。

具体要求

• 大型开发者须发布前沿 SI 框架，每年审查一次，并在 30 天内公布重大变更
• 在部署新的或经过实质性修改的前沿模型之前发布透明度报告
• 在 15 天内向 Cal OES（加州州长紧急服务办公室）报告关键安全事件；如存在迫在眉睫的死亡或重伤风险，则须在 24 小时内报告
• 大型开发者每三个月向 Cal OES 提交内部灾难性风险评估摘要
• 保护举报人，大型开发者须设立匿名的内部举报渠道

来源

1. SB 53: Artificial intelligence models: large developers CalMatters Digital Democracy
2. California SB 53: Frontier AI Law Explained CASRAI · 2026年9月19日
3. OpenAI wants California to toughen the AI law it once fought The Next Web · 2026年8月24日

关键日期

提出

2025年2月21日

签署或通过

2026年9月9日

生效

2027年1月1日

下一步 · 174 天后

2027年5月1日

第 N-9-26 号行政令设定的独立验证机构认定标准发布目标日期（法定截止日期 2028年1月1日）

适用范围

寻求州政府认定为独立验证机构的 SI 审计方；开发者是否使用它们属于自愿。

处罚

无处罚：该措施没有强制执行力。

具体要求

• 政府运营局须在 2028年1月1日前制定申请、暂停和资格标准
• 该局召集包括工程师和 SI 安全专家在内的工作组
• 获认定的机构须每年向该局和州议会提交报告
• 不强制任何人使用这些机构或接受审计；在损害诉讼中，审计具有相关性，但不具决定性

来源

1. SB 813: Independent verification organizations CalMatters Digital Democracy
2. California Finalizes Next Wave of State AI and Privacy Regulation WilmerHale · 2026年10月5日

关键日期

提出

n/a

签署或通过

2026年9月18日

生效

2026年9月18日

下一步 · 8 天后

2026年11月16日

政府运营局须就现场审计、前沿模型终止开关和失控事件报告提交建议

适用范围

加州各州政府机构；这些建议不具约束力，若要对前沿 SI 开发者施加任何新义务，都需要立法。

处罚

无处罚：该措施没有强制执行力。

具体要求

• 建议由独立验证机构定期对大型前沿开发者进行现场审计
• 建议对安全框架、透明度报告和风险评估进行独立验证
• 建议为前沿模型设置紧急关停开关，并持续验证其有效性
• 建议把关键安全事件报告的范围扩大到失去控制事件
• 在 2027年5月1日前公布独立验证机构的标准

来源

1. Newsom sets November 16 deadline to study frontier AI kill switch PPC Land · 2026年9月20日
2. California AI Governance: What Executive Order N-9-26 Means RadarFirst · 2026年9月23日
3. Newsom orders California agencies to develop new AI safety plans after rejecting tougher law CalMatters · 2026年9月18日