欧盟的 SI 安全

关键日期

提出

n/a

签署或通过

2024年6月13日

生效

2025年8月2日

下一步 · 267 天后

2027年8月2日

2025年8月2日 之前投放市场的通用 SI 模型的合规截止日期

适用范围

在欧盟市场投放通用 SI 模型的提供者；具有系统性风险的模型（推定训练算力超过 10^25 FLOP）还须承担额外义务。

处罚

自 2026年8月2日起，欧盟委员会可对通用 SI 模型提供者处以最高为其全球年营业额 3% 或 1500 万欧元的罚款，以较高者为准。

具体要求

• 在达到或预计将达到 10^25 FLOP 系统性风险门槛后两周内通知欧盟委员会
• 保存技术文档，并向下游提供者提供信息
• 发布训练内容摘要，并制定版权政策
• 系统性风险模型：评估模型（包括对抗性测试），并评估和缓解系统性风险
• 系统性风险模型：追踪严重事件并向 AI Office 报告
• 系统性风险模型：确保模型及其基础设施具备足够的网络安全

来源

1. Guidelines for providers of general-purpose AI models European Commission · 2025年7月18日
2. Overview of Guidelines for GPAI Models EU Artificial Intelligence Act (Future of Life Institute)
3. EU AI Act: The AI Office sends its first requests for information to leading AI providers Reed Smith · 2026年10月26日

关键日期

提出

n/a

签署或通过

2025年7月10日

生效

2025年8月2日

下一步

暂无安排

适用范围

对具有系统性风险的通用 SI 模型提供者属于自愿性质；欧盟委员会和 AI Board（人工智能委员会）将其视为证明符合 AI Act 的适当工具，签署方包括 Amazon、Anthropic、Google、IBM、Microsoft、Mistral AI 和 OpenAI，xAI 只签署了这一章节，Meta 没有签署。

处罚

无处罚：该措施没有强制执行力。

具体要求

• 采用安全与保障框架，并通报 AI Office
• 识别和分析系统性风险，包括 CBRN、失去控制、网络攻击和有害操纵
• 设定可衡量的风险接受标准，只有在所有风险均可接受时才继续推进
• 采用独立的外部评估方，仅有有限的豁免
• 追踪并报告严重事件，并提交安全与保障模型报告
• 保护模型安全，维持举报人保护和健康的风险文化

来源

1. The General-Purpose AI Code of Practice European Commission · 2026年10月7日
2. Signing the General-Purpose AI Code of Practice: FAQ European Commission
3. General-Purpose AI Code of Practice Wikipedia

关键日期

提出

n/a

签署或通过

2026年7月8日

生效

2026年7月27日

下一步 · 24 天后

2026年12月2日

已上市的生成式系统必须履行第 50(2) 条的标识义务，新增的第 5 条规定开始适用

适用范围

修订 AI Act，并赋予 AI Office（人工智能办公室）直接监管两类 SI 系统的权力：由同一提供者基于通用模型构建的 SI 系统，以及超大型在线平台和搜索引擎中的 SI 系统。

处罚

除现有 AI Act 罚款外，还可按日处以定期罚款，上限为日均全球营业额的 5%。

具体要求

• 将附件三中独立的高风险义务推迟至 2027年12月2日
• 将附件一产品组件的高风险义务推迟至 2028年8月2日
• 赋予 AI Office 信息调取、检查、约束性承诺和罚款权力（第 75a 条至第 75c 条）
• 在 2026年8月2日之前投放市场的生成式系统，可在 2026年12月2日之前满足输出标记义务
• 不推迟通用模型义务，也不推迟其于 2026年8月2日开始执法

来源

1. Digital Omnibus on AI EU Artificial Intelligence Act (Future of Life Institute)
2. EU AI Omnibus enters into force, amending the AI Act White & Case