承诺追踪

在发布权重之前，与网络安全领域的领军者、合作伙伴和国家机构一起对模型进行红队测试。

Mistral AI，发布 Mistral Large 4 时

原话

"we are red-teaming the model in real-world settings with cybersecurity leaders, vetted partners, and state authorities"

来源 Introducing Mistral Large 4 Mistral AI · 2026年10月6日

在没有充分证据表明缓解措施能降低风险之前，不对外发布高风险模型。

Meta，Superintelligence Scaling Framework 2.1

原话

"we will not deploy the model externally unless we have strong additional evidence"

来源 Meta Superintelligence Scaling Framework, Version 2.1 Meta · 2026年10月2日

在安全措施能够缓解风险之前，不部署达到关键能力阈值（Critical Capability Threshold）的模型。

Amazon，Frontier Model Safety Framework

原话

"we will not deploy the model until safeguards appropriately mitigate the risks."

来源 Amazon's Frontier Model Safety Framework (September 2026) Amazon · 2026年9月17日

为其能力最强的前沿模型发布安全评估报告。

Amazon，Frontier Model Safety Framework

原话

"we publish safety evaluation reports for our most capable frontier models"

来源 Amazon's Frontier Model Safety Framework (September 2026) Amazon · 2026年9月17日

为已部署的模型发布风险报告，并在长期利益信托（Long-Term Benefit Trust）要求时让外部审查者核查。

Anthropic，Responsible Scaling Policy 3.4

本站概述

来源 Anthropic's Responsible Scaling Policy Anthropic · 2026年7月8日

把事件报告的副本发送给有关部门。

xAI，Frontier Artificial Intelligence Framework

原话

"will provide the relevant authorities with a copy of the incident report"

来源 xAI Frontier Artificial Intelligence Framework xAI · 2026年6月30日

任何达到关键能力等级（Critical Capability Level）的模型，在部署前都要有安全论证支撑。

Google DeepMind，Frontier Safety Framework 3.1

原话

"Where the model has reached a CCL, the residual risk assessment will be supplemented with a safety case."

来源 Frontier Safety Framework, Version 3.1 Google DeepMind · 2026年4月17日

对无法充分缓解风险的模型暂停开发和部署。

Microsoft，Frontier Governance Framework

原话

"we will pause development and deployment until the point at which mitigation practices evolve to meet the risk"

来源 Frontier Governance Framework (February 2026) Microsoft · 2026年2月13日

公布每个覆盖模型的评估结果及其风险分级。

Microsoft，Frontier Governance Framework

原话

"relevant evaluations, and the model's risk classification will be shared publicly"

来源 Frontier Governance Framework (February 2026) Microsoft · 2026年2月13日

只在能让人类保持控制的限度内构建超级智能。

Mustafa Suleyman，Microsoft AI 首席执行官

原话

"we are not building a superintelligence at any cost, with no limits"

来源 Towards Humanist Superintelligence Microsoft AI · 2025年11月6日

在其能力最强的模型上遵守 EU General-Purpose AI Code of Practice 的安全与安保（Safety and Security）一章。

Amazon，EU Code of Practice 签署方

本站概述

来源 The General-Purpose AI Code of Practice: signatories European Commission · 2026年10月7日

在其能力最强的模型上遵守 EU General-Purpose AI Code of Practice 的安全与安保（Safety and Security）一章。

Anthropic，EU Code of Practice 签署方

本站概述

来源 The General-Purpose AI Code of Practice: signatories European Commission · 2026年10月7日

在其能力最强的模型上遵守 EU General-Purpose AI Code of Practice 的安全与安保（Safety and Security）一章。

Google，EU Code of Practice 签署方

本站概述

来源 The General-Purpose AI Code of Practice: signatories European Commission · 2026年10月7日

在其能力最强的模型上遵守 EU General-Purpose AI Code of Practice 的安全与安保（Safety and Security）一章。

Microsoft，EU Code of Practice 签署方

本站概述

来源 The General-Purpose AI Code of Practice: signatories European Commission · 2026年10月7日

在其能力最强的模型上遵守 EU General-Purpose AI Code of Practice 的安全与安保（Safety and Security）一章。

Mistral AI，EU Code of Practice 签署方

本站概述

来源 The General-Purpose AI Code of Practice: signatories European Commission · 2026年10月7日

在其能力最强的模型上遵守 EU General-Purpose AI Code of Practice 的安全与安保（Safety and Security）一章。

OpenAI，EU Code of Practice 签署方

本站概述

来源 The General-Purpose AI Code of Practice: signatories European Commission · 2026年10月7日

在其能力最强的模型上遵守 EU General-Purpose AI Code of Practice 的安全与安保（Safety and Security）一章。

xAI，EU Code of Practice 签署方

本站概述

来源 The General-Purpose AI Code of Practice: signatories European Commission · 2026年10月7日

严谨对待超级智能风险，并谨慎决定 Meta 开源哪些内容。

Mark Zuckerberg，Meta 首席执行官

原话

"We'll need to be rigorous about mitigating these risks and careful about what we choose to open source."

来源 Personal Superintelligence Meta · 2025年7月30日

模型一旦达到“Critical”能力，在有相应安全措施之前停止开发。

OpenAI，Preparedness Framework 第 2 版

原话

"Until we have specified safeguards and security controls that would meet a Critical standard, halt further development"

来源 Preparedness Framework, Version 2 OpenAI · 2025年4月15日

在 2025年2月 草案发布后三个月内发布修订后的安全框架。

xAI，其 Risk Management Framework 草案

原话

"We plan to release an updated version of this policy within three months."

来源 xAI Risk Management Framework (Draft) xAI · 2025年2月10日

如果风险无法缓解，就停止开发达到关键风险阈值的模型。

Meta，Frontier AI Framework

原话

"If a frontier AI is assessed to have reached the critical risk threshold and cannot be mitigated, we will stop development"

来源 Frontier AI Framework Meta · 2025年2月3日

公开披露其安全与安保治理措施。

Alibaba，中国人工智能安全承诺签署方

原话

"Proactively disclose safety and security governance measures"

来源 Artificial Intelligence Safety Commitments China AI Industry Alliance (AIIA) and CAICT · 2024年12月1日

在每次发布或更新之前对模型进行红队测试和严格测试。

Alibaba，中国人工智能安全承诺签署方

原话

"Through dedicated simulation and red-teaming experts to rigorously test AI models prior to their release or update"

来源 Artificial Intelligence Safety Commitments China AI Industry Alliance (AIIA) and CAICT · 2024年12月1日

公开披露其安全与安保治理措施。

DeepSeek，中国人工智能安全承诺签署方

原话

"Proactively disclose safety and security governance measures"

来源 Artificial Intelligence Safety Commitments China AI Industry Alliance (AIIA) and CAICT · 2024年12月1日

在每次发布或更新之前对模型进行红队测试和严格测试。

DeepSeek，中国人工智能安全承诺签署方

原话

"Through dedicated simulation and red-teaming experts to rigorously test AI models prior to their release or update"

来源 Artificial Intelligence Safety Commitments China AI Industry Alliance (AIIA) and CAICT · 2024年12月1日

公开披露其安全与安保治理措施。

智谱（北京智谱华章科技），中国人工智能安全承诺签署方

原话

"Proactively disclose safety and security governance measures"

来源 Artificial Intelligence Safety Commitments China AI Industry Alliance (AIIA) and CAICT · 2024年12月1日

在每次发布或更新之前对模型进行红队测试和严格测试。

智谱（北京智谱华章科技），中国人工智能安全承诺签署方

原话

"Through dedicated simulation and red-teaming experts to rigorously test AI models prior to their release or update"

来源 Artificial Intelligence Safety Commitments China AI Industry Alliance (AIIA) and CAICT · 2024年12月1日

在重大新模型公开发布前后，让美国 AI Safety Institute 获得访问权限。

Anthropic，与美国 AI Safety Institute 的协议

原话

"access to major new models from each company prior to and following their public release"

来源 U.S. AI Safety Institute signs agreements regarding AI safety research, testing and evaluation with Anthropic and OpenAI NIST · 2024年8月29日

在重大新模型公开发布前后，让美国 AI Safety Institute 获得访问权限。

OpenAI，与美国 AI Safety Institute 的协议

原话

"access to major new models from each company prior to and following their public release"

来源 U.S. AI Safety Institute signs agreements regarding AI safety research, testing and evaluation with Anthropic and OpenAI NIST · 2024年8月29日

在 2025年2月 法国峰会之前发布针对严重风险的安全框架。

Amazon，首尔承诺签署方

原话

"publishing a safety framework focused on severe risks by the upcoming AI Summit in France"

来源 Frontier AI Safety Commitments, AI Seoul Summit 2024 UK Department for Science, Innovation and Technology · 2024年5月21日

在 2025年2月 法国峰会之前发布针对严重风险的安全框架。

Anthropic，首尔承诺签署方

原话

"publishing a safety framework focused on severe risks by the upcoming AI Summit in France"

来源 Frontier AI Safety Commitments, AI Seoul Summit 2024 UK Department for Science, Innovation and Technology · 2024年5月21日

在 2025年2月 法国峰会之前发布针对严重风险的安全框架。

Google，首尔承诺签署方

原话

"publishing a safety framework focused on severe risks by the upcoming AI Summit in France"

来源 Frontier AI Safety Commitments, AI Seoul Summit 2024 UK Department for Science, Innovation and Technology · 2024年5月21日

在 2025年2月 法国峰会之前发布针对严重风险的安全框架。

Meta，首尔承诺签署方

原话

"publishing a safety framework focused on severe risks by the upcoming AI Summit in France"

来源 Frontier AI Safety Commitments, AI Seoul Summit 2024 UK Department for Science, Innovation and Technology · 2024年5月21日

在 2025年2月 法国峰会之前发布针对严重风险的安全框架。

Microsoft，首尔承诺签署方

原话

"publishing a safety framework focused on severe risks by the upcoming AI Summit in France"

来源 Frontier AI Safety Commitments, AI Seoul Summit 2024 UK Department for Science, Innovation and Technology · 2024年5月21日

在 2025年2月 法国峰会之前发布针对严重风险的安全框架。

Mistral AI，首尔承诺签署方

原话

"publishing a safety framework focused on severe risks by the upcoming AI Summit in France"

来源 Frontier AI Safety Commitments, AI Seoul Summit 2024 UK Department for Science, Innovation and Technology · 2024年5月21日

在 2025年2月 法国峰会之前发布针对严重风险的安全框架。

OpenAI，首尔承诺签署方

原话

"publishing a safety framework focused on severe risks by the upcoming AI Summit in France"

来源 Frontier AI Safety Commitments, AI Seoul Summit 2024 UK Department for Science, Innovation and Technology · 2024年5月21日

在 2025年2月 法国峰会之前发布针对严重风险的安全框架。

xAI，首尔承诺签署方

原话

"publishing a safety framework focused on severe risks by the upcoming AI Summit in France"

来源 Frontier AI Safety Commitments, AI Seoul Summit 2024 UK Department for Science, Innovation and Technology · 2024年5月21日

在 2025年2月 法国峰会之前发布针对严重风险的安全框架。

Zhipu.ai（现为 Z.ai），首尔承诺签署方

原话

"publishing a safety framework focused on severe risks by the upcoming AI Summit in France"

来源 Frontier AI Safety Commitments, AI Seoul Summit 2024 UK Department for Science, Innovation and Technology · 2024年5月21日

在发布前于公司内外测试模型。

Amazon，在白宫的七家公司之一

原话

"internal and external security testing of their AI systems before their release"

来源 Fact sheet: Biden-Harris Administration secures voluntary commitments from leading artificial intelligence companies to manage the risks posed by AI The White House (archived) · 2023年7月21日

在发布前于公司内外测试模型。

Anthropic，在白宫的七家公司之一

原话

"internal and external security testing of their AI systems before their release"

来源 Fact sheet: Biden-Harris Administration secures voluntary commitments from leading artificial intelligence companies to manage the risks posed by AI The White House (archived) · 2023年7月21日

在发布前于公司内外测试模型。

Google，在白宫的七家公司之一

原话

"internal and external security testing of their AI systems before their release"

来源 Fact sheet: Biden-Harris Administration secures voluntary commitments from leading artificial intelligence companies to manage the risks posed by AI The White House (archived) · 2023年7月21日

在发布前于公司内外测试模型。

Meta，在白宫的七家公司之一

原话

"internal and external security testing of their AI systems before their release"

来源 Fact sheet: Biden-Harris Administration secures voluntary commitments from leading artificial intelligence companies to manage the risks posed by AI The White House (archived) · 2023年7月21日

在发布前于公司内外测试模型。

Microsoft，在白宫的七家公司之一

原话

"internal and external security testing of their AI systems before their release"

来源 Fact sheet: Biden-Harris Administration secures voluntary commitments from leading artificial intelligence companies to manage the risks posed by AI The White House (archived) · 2023年7月21日

在发布前于公司内外测试模型。

OpenAI，在白宫的七家公司之一

原话

"internal and external security testing of their AI systems before their release"

来源 Fact sheet: Biden-Harris Administration secures voluntary commitments from leading artificial intelligence companies to manage the risks posed by AI The White House (archived) · 2023年7月21日

把 20% 的算力用于 Superalignment 团队控制超级智能的工作。

OpenAI，Jan Leike 和 Ilya Sutskever 的一篇文章

原话

"dedicating 20% of the compute we've secured to date over the next four years"

来源 Introducing Superalignment OpenAI · 2023年7月5日

不研发以伤害人为主要目的的武器或其他技术。

Google，首席执行官 Sundar Pichai 的 "AI at Google: our principles"

原话

"Weapons or other technologies whose principal purpose or implementation is to cause or directly facilitate injury to people."

来源 AI at Google: our principles Google · 2018年6月7日

如果一个重视安全的项目先接近造出 AGI，就停止与之竞争，转而协助它。

OpenAI，其章程（Charter）

原话

"we commit to stop competing with and start assisting this project"

来源 OpenAI Charter OpenAI · 2018年4月9日