# 承诺追踪：核查SI实验室的安全承诺

> 11 家SI实验室及其负责人的 47 项公开安全承诺，每项都附主要来源和状态：已兑现、未兑现、已撤回、进行中或尚无公开证据，状态都有据可查。

Source: https://enterrsi.si/zh/promises/
Updated: 2026-11-08

1. [首页](https://enterrsi.si/zh/)
2. 承诺追踪

承诺追踪 · 核查于 2026年11月10日

# 承诺追踪

承诺追踪列出了[遏制评分榜](https://enterrsi.si/zh/containment-board/)上 11 家SI实验室及其负责人作出的 **47 项公开安全承诺**，每项都附主要来源、日期和状态。只有当有信誉的公开来源作出报告时，承诺才会标为已兑现或未兑现，并写明、链接该来源。截至 2026年11月10日，11 项据报已兑现，4 项未兑现，2 项已撤回；其余 30 项正在进行中或尚无公开证据。

承诺
:   47

实验室
:   11

据报已兑现
:   11

据报未兑现
:   4

统计

## 实验室承诺了什么，后来怎样了

除两种谨慎状态外，每个状态都附有具名的公开来源。条形图按状态显示每家实验室的承诺；标签是其在遏制评分榜上的评级。

47

承诺

11

已兑现

4

未兑现

2

已撤回

18

进行中

12

尚无证据

1. [Anthropic](https://enterrsi.si/zh/promises/anthropic/)5B+
2. [OpenAI](https://enterrsi.si/zh/promises/openai/)7B
3. [Google DeepMind](https://enterrsi.si/zh/promises/google-deepmind/)5B-
4. [Microsoft](https://enterrsi.si/zh/promises/microsoft/)6C+
5. [Meta](https://enterrsi.si/zh/promises/meta/)5C+
6. [Amazon](https://enterrsi.si/zh/promises/amazon/)5C
7. [xAI](https://enterrsi.si/zh/promises/xai/)4D+
8. [Mistral](https://enterrsi.si/zh/promises/mistral/)3D
9. [Z.ai (Zhipu)](https://enterrsi.si/zh/promises/zai/)3D
10. [Alibaba (Qwen)](https://enterrsi.si/zh/promises/alibaba/)2D-
11. [DeepSeek](https://enterrsi.si/zh/promises/deepseek/)2F

全部承诺

## 全部 47 项承诺，最新的在前

按状态、实验室或主题筛选。每个条目在原话足够简短时给出原话，并附主要来源、带自身来源的状态以及核查日期。

尚无公开证据[Mistral](https://enterrsi.si/zh/promises/mistral/)2026年10月6日

### 在发布权重之前，与网络安全领域的领军者、合作伙伴和国家机构一起对模型进行红队测试。

Mistral AI，发布 Mistral Large 4 时

原话

> "we are red-teaming the model in real-world settings with cybersecurity leaders, vetted partners, and state authorities"

来源 [Introducing Mistral Large 4](https://mistral.ai/news/mistral-large-4/) Mistral AI · 2026年10月6日

**尚无公开证据。**没有公布任何评估方、方法或结果；权重已于 2026年10月29日 发布。

核查于 2026年11月10日 · [报告更正](#corrections)

进行中[Meta](https://enterrsi.si/zh/promises/meta/)2026年10月2日

### 在没有充分证据表明缓解措施能降低风险之前，不对外发布高风险模型。

Meta，Superintelligence Scaling Framework 2.1

原话

> "we will not deploy the model externally unless we have strong additional evidence"

来源 [Meta Superintelligence Scaling Framework, Version 2.1](https://research.meta.ai/static/meta-superintelligence-scaling-framework) Meta · 2026年10月2日

**进行中。**该框架于 2026年10月 生效；Meta 尚未公布对它的外部审计。

核查于 2026年11月10日 · [报告更正](#corrections)

进行中[Amazon](https://enterrsi.si/zh/promises/amazon/)2026年9月17日

### 在安全措施能够缓解风险之前，不部署达到关键能力阈值（Critical Capability Threshold）的模型。

Amazon，Frontier Model Safety Framework

原话

> "we will not deploy the model until safeguards appropriately mitigate the risks."

来源 [Amazon's Frontier Model Safety Framework (September 2026)](https://cdn.amazon.science/a0/4f/bca5cb32495280835d9370a466b7/amazon-fmsf-9-2026.pdf) Amazon · 2026年9月17日

**进行中。**METR 得出结论：Nova 2.0 Lite 没有越过自动化研究方面的关键能力阈值。

- [Strengthening AI safety evaluation through independent third-party review](https://www.amazon.science/blog/strengthening-ai-safety-evaluation-through-independent-third-party-review) Amazon Science · 2026年10月20日

核查于 2026年11月10日 · [报告更正](#corrections)

进行中[Amazon](https://enterrsi.si/zh/promises/amazon/)2026年9月17日

### 为其能力最强的前沿模型发布安全评估报告。

Amazon，Frontier Model Safety Framework

原话

> "we publish safety evaluation reports for our most capable frontier models"

来源 [Amazon's Frontier Model Safety Framework (September 2026)](https://cdn.amazon.science/a0/4f/bca5cb32495280835d9370a466b7/amazon-fmsf-9-2026.pdf) Amazon · 2026年9月17日

**进行中。**Amazon 的作者于 2026年1月27日 在 arXiv 上发布了 Nova 2.0 Lite 的评估报告。

- [Evaluating Nova 2.0 Lite model under Amazon's Frontier Model Safety Framework](https://arxiv.org/abs/2601.19134) arXiv (Amazon authors) · 2026年1月27日

核查于 2026年11月10日 · [报告更正](#corrections)

进行中[Anthropic](https://enterrsi.si/zh/promises/anthropic/)2026年7月8日

### 为已部署的模型发布风险报告，并在长期利益信托（Long-Term Benefit Trust）要求时让外部审查者核查。

Anthropic，Responsible Scaling Policy 3.4

本站概述

来源 [Anthropic's Responsible Scaling Policy](https://www.anthropic.com/responsible-scaling-policy) Anthropic · 2026年7月8日

**进行中。**3.4 版于 2026年7月8日 生效；目前还没有公布对风险报告的外部审查。

核查于 2026年11月10日 · [报告更正](#corrections)

尚无公开证据[xAI](https://enterrsi.si/zh/promises/xai/)2026年6月30日

### 把事件报告的副本发送给有关部门。

xAI，Frontier Artificial Intelligence Framework

原话

> "will provide the relevant authorities with a copy of the incident report"

来源 [xAI Frontier Artificial Intelligence Framework](https://media.x.ai/v1/website/xai-frontier-artificial-intelligence-framework-30-june-2026-f1f0c916.pdf) xAI · 2026年6月30日

**尚无公开证据。**FLI 没有找到 xAI 的滥用或失调透明度报告（2026年7月14日）。

核查于 2026年11月10日 · [报告更正](#corrections)

进行中[Google DeepMind](https://enterrsi.si/zh/promises/google-deepmind/)2026年4月17日

### 任何达到关键能力等级（Critical Capability Level）的模型，在部署前都要有安全论证支撑。

Google DeepMind，Frontier Safety Framework 3.1

原话

> "Where the model has reached a CCL, the residual risk assessment will be supplemented with a safety case."

来源 [Frontier Safety Framework, Version 3.1](https://storage.googleapis.com/deepmind-media/DeepMind.com/Blog/strengthening-our-frontier-safety-framework/frontier-safety-framework_3-1.pdf) Google DeepMind · 2026年4月17日

**进行中。**Google 的 Gemini 4 Argon 安全报告（2026年10月13日）称无法排除其达到网络安全关键能力等级；尚未公布安全论证。

- [Gemini 4 Argon Safety and Security Report](https://storage.googleapis.com/deepmind-media/gemini/gemini_4_safety_report.pdf) Google DeepMind · 2026年10月13日

核查于 2026年11月10日 · [报告更正](#corrections)

进行中[Microsoft](https://enterrsi.si/zh/promises/microsoft/)2026年2月13日

### 对无法充分缓解风险的模型暂停开发和部署。

Microsoft，Frontier Governance Framework

原话

> "we will pause development and deployment until the point at which mitigation practices evolve to meet the risk"

来源 [Frontier Governance Framework (February 2026)](https://cdn-dynmedia-1.microsoft.com/is/content/microsoftcorp/microsoft/msc/documents/presentations/CSR/Frontier-Governance-Framework-Feb-2026.pdf) Microsoft · 2026年2月13日

**进行中。**尚无关于暂停的公开记录报告。

核查于 2026年11月10日 · [报告更正](#corrections)

尚无公开证据[Microsoft](https://enterrsi.si/zh/promises/microsoft/)2026年2月13日

### 公布每个覆盖模型的评估结果及其风险分级。

Microsoft，Frontier Governance Framework

原话

> "relevant evaluations, and the model's risk classification will be shared publicly"

来源 [Frontier Governance Framework (February 2026)](https://cdn-dynmedia-1.microsoft.com/is/content/microsoftcorp/microsoft/msc/documents/presentations/CSR/Frontier-Governance-Framework-Feb-2026.pdf) Microsoft · 2026年2月13日

**尚无公开证据。**MAI-Thinking-1 技术报告（2026年6月2日）给出了安全基准结果，但没有前沿风险分级。

- [MAI-Thinking-1: Building a Hill-Climbing Machine](https://microsoft.ai/wp-content/uploads/2026/06/main_20260602_2.pdf) Microsoft AI · 2026年6月2日

核查于 2026年11月10日 · [报告更正](#corrections)

进行中[Microsoft](https://enterrsi.si/zh/promises/microsoft/)2025年11月6日

### 只在能让人类保持控制的限度内构建超级智能。

Mustafa Suleyman，Microsoft AI 首席执行官

原话

> "we are not building a superintelligence at any cost, with no limits"

来源 [Towards Humanist Superintelligence](https://microsoft.ai/blog/towards-humanist-superintelligence) Microsoft AI · 2025年11月6日

**进行中。**Microsoft 的 Frontier Governance Framework（2026 年 2 月）把限制写成了书面规定，其中包括暂停承诺。

核查于 2026年11月10日 · [报告更正](#corrections)

进行中[Amazon](https://enterrsi.si/zh/promises/amazon/)2025年8月1日

### 在其能力最强的模型上遵守 EU General-Purpose AI Code of Practice 的安全与安保（Safety and Security）一章。

Amazon，EU Code of Practice 签署方

本站概述

来源 [The General-Purpose AI Code of Practice: signatories](https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai) European Commission · 2026年10月7日

**进行中。**欧盟委员会列出了该签署（页面更新于 2026年10月7日）；EU AI Office 尚未发布合规评估。

核查于 2026年11月10日 · [报告更正](#corrections)

进行中[Anthropic](https://enterrsi.si/zh/promises/anthropic/)2025年8月1日

### 在其能力最强的模型上遵守 EU General-Purpose AI Code of Practice 的安全与安保（Safety and Security）一章。

Anthropic，EU Code of Practice 签署方

本站概述

来源 [The General-Purpose AI Code of Practice: signatories](https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai) European Commission · 2026年10月7日

**进行中。**欧盟委员会列出了该签署（页面更新于 2026年10月7日）；EU AI Office 尚未发布合规评估。

核查于 2026年11月10日 · [报告更正](#corrections)

进行中[Google DeepMind](https://enterrsi.si/zh/promises/google-deepmind/)2025年8月1日

### 在其能力最强的模型上遵守 EU General-Purpose AI Code of Practice 的安全与安保（Safety and Security）一章。

Google，EU Code of Practice 签署方

本站概述

来源 [The General-Purpose AI Code of Practice: signatories](https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai) European Commission · 2026年10月7日

**进行中。**欧盟委员会列出了该签署（页面更新于 2026年10月7日）；EU AI Office 尚未发布合规评估。

核查于 2026年11月10日 · [报告更正](#corrections)

进行中[Microsoft](https://enterrsi.si/zh/promises/microsoft/)2025年8月1日

### 在其能力最强的模型上遵守 EU General-Purpose AI Code of Practice 的安全与安保（Safety and Security）一章。

Microsoft，EU Code of Practice 签署方

本站概述

来源 [The General-Purpose AI Code of Practice: signatories](https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai) European Commission · 2026年10月7日

**进行中。**欧盟委员会列出了该签署（页面更新于 2026年10月7日）；EU AI Office 尚未发布合规评估。

核查于 2026年11月10日 · [报告更正](#corrections)

进行中[Mistral](https://enterrsi.si/zh/promises/mistral/)2025年8月1日

### 在其能力最强的模型上遵守 EU General-Purpose AI Code of Practice 的安全与安保（Safety and Security）一章。

Mistral AI，EU Code of Practice 签署方

本站概述

来源 [The General-Purpose AI Code of Practice: signatories](https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai) European Commission · 2026年10月7日

**进行中。**欧盟委员会列出了该签署（页面更新于 2026年10月7日）；EU AI Office 尚未发布合规评估。

核查于 2026年11月10日 · [报告更正](#corrections)

进行中[OpenAI](https://enterrsi.si/zh/promises/openai/)2025年8月1日

### 在其能力最强的模型上遵守 EU General-Purpose AI Code of Practice 的安全与安保（Safety and Security）一章。

OpenAI，EU Code of Practice 签署方

本站概述

来源 [The General-Purpose AI Code of Practice: signatories](https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai) European Commission · 2026年10月7日

**进行中。**欧盟委员会列出了该签署（页面更新于 2026年10月7日）；EU AI Office 尚未发布合规评估。

核查于 2026年11月10日 · [报告更正](#corrections)

进行中[xAI](https://enterrsi.si/zh/promises/xai/)2025年8月1日

### 在其能力最强的模型上遵守 EU General-Purpose AI Code of Practice 的安全与安保（Safety and Security）一章。

xAI，EU Code of Practice 签署方

本站概述

来源 [The General-Purpose AI Code of Practice: signatories](https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai) European Commission · 2026年10月7日

**进行中。**欧盟委员会列出了该签署（页面更新于 2026年10月7日）；EU AI Office 尚未发布合规评估。xAI 只签署了安全与安保（Safety and Security）一章。

核查于 2026年11月10日 · [报告更正](#corrections)

尚无公开证据[Meta](https://enterrsi.si/zh/promises/meta/)2025年7月30日

### 严谨对待超级智能风险，并谨慎决定 Meta 开源哪些内容。

Mark Zuckerberg，Meta 首席执行官

原话

> "We'll need to be rigorous about mitigating these risks and careful about what we choose to open source."

来源 [Personal Superintelligence](https://www.meta.com/superintelligence/) Meta · 2025年7月30日

**尚无公开证据。**没有找到对这一承诺的公开、有信誉的评估。

核查于 2026年11月10日 · [报告更正](#corrections)

进行中[OpenAI](https://enterrsi.si/zh/promises/openai/)2025年4月15日

### 模型一旦达到“Critical”能力，在有相应安全措施之前停止开发。

OpenAI，Preparedness Framework 第 2 版

原话

> "Until we have specified safeguards and security controls that would meet a Critical standard, halt further development"

来源 [Preparedness Framework, Version 2](https://cdn.openai.com/pdf/18a02b5d-6b67-4cec-ab64-68cdfbddebcd/preparedness-framework-v2.pdf) OpenAI · 2025年4月15日

**进行中。**OpenAI 的 GPT-6 Astra System Card（2026年9月3日）把该模型在网络安全方面评为 Critical。FLI 于 2026年7月14日 报告称，OpenAI 已通过更新后的框架收回了部分承诺。

- [GPT-6 Astra System Card](https://deploymentsafety.openai.com/gpt-6-astra) OpenAI · 2026年9月3日

核查于 2026年11月10日 · [报告更正](#corrections)

未兑现[xAI](https://enterrsi.si/zh/promises/xai/)2025年2月10日

### 在 2025年2月 草案发布后三个月内发布修订后的安全框架。

xAI，其 Risk Management Framework 草案

原话

> "We plan to release an updated version of this policy within three months."

来源 [xAI Risk Management Framework (Draft)](https://x.ai/documents/2025.02.10-RMF-Draft.pdf) xAI · 2025年2月10日

**未兑现：**TechCrunch 于 2025年5月13日 报道：5 月 10 日的期限 "came and went without acknowledgement on xAI's official channels."。METR 列出的第一个完整版本来自 2025年8月。

[xAI's promised safety report is MIA](https://techcrunch.com/2025/05/13/xais-promised-safety-report-is-mia/) TechCrunch · 2025年5月13日

- [Frontier AI Safety Policies (index of published company frameworks)](https://metr.org/fsp) METR · 2026年11月10日

核查于 2026年11月10日 · [报告更正](#corrections)

已撤回[Meta](https://enterrsi.si/zh/promises/meta/)2025年2月3日

### 如果风险无法缓解，就停止开发达到关键风险阈值的模型。

Meta，Frontier AI Framework

原话

> "If a frontier AI is assessed to have reached the critical risk threshold and cannot be mitigated, we will stop development"

来源 [Frontier AI Framework](https://ai.meta.com/static-resource/meta-frontier-ai-framework) Meta · 2025年2月3日

**已撤回：**Future of Life Institute 于 2026年7月14日 报道：Meta "has also backslided on pause commitments"。其 2026年4月 修订版把 Critical 级别的应对从“停止”改为“在缓解措施下继续开发”。

[AI Safety Index, Summer 2026 (full report)](https://futureoflife.org/wp-content/uploads/2026/07/AI-Safety-Index-Summer-2026-Digital-14-Jul.pdf) Future of Life Institute · 2026年7月14日

- [Meta Superintelligence Scaling Framework, Version 2.1](https://research.meta.ai/static/meta-superintelligence-scaling-framework) Meta · 2026年10月2日

核查于 2026年11月10日 · [报告更正](#corrections)

尚无公开证据[Alibaba (Qwen)](https://enterrsi.si/zh/promises/alibaba/)2024年12月1日

### 公开披露其安全与安保治理措施。

Alibaba，中国人工智能安全承诺签署方

原话

> "Proactively disclose safety and security governance measures"

来源 [Artificial Intelligence Safety Commitments](https://mp.weixin.qq.com/s/s-XFKQCWhu0uye4opgb3Ng) China AI Industry Alliance (AIIA) and CAICT · 2024年12月1日

**尚无公开证据。**FLI 于 2026年7月14日 报告称，该公司没有公布安全框架。

- [Artificial Intelligence Safety Commitments (China AI Industry Alliance), text and signatories](https://agora.eto.tech/instrument/1831) AGORA, Emerging Technology Observatory · 2024年12月1日

核查于 2026年11月10日 · [报告更正](#corrections)

尚无公开证据[Alibaba (Qwen)](https://enterrsi.si/zh/promises/alibaba/)2024年12月1日

### 在每次发布或更新之前对模型进行红队测试和严格测试。

Alibaba，中国人工智能安全承诺签署方

原话

> "Through dedicated simulation and red-teaming experts to rigorously test AI models prior to their release or update"

来源 [Artificial Intelligence Safety Commitments](https://mp.weixin.qq.com/s/s-XFKQCWhu0uye4opgb3Ng) China AI Industry Alliance (AIIA) and CAICT · 2024年12月1日

**尚无公开证据。**FLI 于 2026年7月14日 报告称，没有找到任何公开提及的外部发布前测试。

- [Artificial Intelligence Safety Commitments (China AI Industry Alliance), text and signatories](https://agora.eto.tech/instrument/1831) AGORA, Emerging Technology Observatory · 2024年12月1日

核查于 2026年11月10日 · [报告更正](#corrections)

尚无公开证据[DeepSeek](https://enterrsi.si/zh/promises/deepseek/)2024年12月1日

### 公开披露其安全与安保治理措施。

DeepSeek，中国人工智能安全承诺签署方

原话

> "Proactively disclose safety and security governance measures"

来源 [Artificial Intelligence Safety Commitments](https://mp.weixin.qq.com/s/s-XFKQCWhu0uye4opgb3Ng) China AI Industry Alliance (AIIA) and CAICT · 2024年12月1日

**尚无公开证据。**FLI 于 2026年7月14日 报告称，该公司没有公布安全框架。

- [DeepSeek and other Chinese firms converge with Western companies on AI promises](https://carnegieendowment.org/research/2025/01/deepseek-and-other-chinese-firms-converge-with-western-companies-on-ai-promises?lang=en) Carnegie Endowment for International Peace · 2025年1月28日

核查于 2026年11月10日 · [报告更正](#corrections)

尚无公开证据[DeepSeek](https://enterrsi.si/zh/promises/deepseek/)2024年12月1日

### 在每次发布或更新之前对模型进行红队测试和严格测试。

DeepSeek，中国人工智能安全承诺签署方

原话

> "Through dedicated simulation and red-teaming experts to rigorously test AI models prior to their release or update"

来源 [Artificial Intelligence Safety Commitments](https://mp.weixin.qq.com/s/s-XFKQCWhu0uye4opgb3Ng) China AI Industry Alliance (AIIA) and CAICT · 2024年12月1日

**尚无公开证据。**FLI 于 2026年7月14日 报告称，没有找到任何公开提及的外部发布前测试。

- [DeepSeek and other Chinese firms converge with Western companies on AI promises](https://carnegieendowment.org/research/2025/01/deepseek-and-other-chinese-firms-converge-with-western-companies-on-ai-promises?lang=en) Carnegie Endowment for International Peace · 2025年1月28日

核查于 2026年11月10日 · [报告更正](#corrections)

尚无公开证据[Z.ai (Zhipu)](https://enterrsi.si/zh/promises/zai/)2024年12月1日

### 公开披露其安全与安保治理措施。

智谱（北京智谱华章科技），中国人工智能安全承诺签署方

原话

> "Proactively disclose safety and security governance measures"

来源 [Artificial Intelligence Safety Commitments](https://mp.weixin.qq.com/s/s-XFKQCWhu0uye4opgb3Ng) China AI Industry Alliance (AIIA) and CAICT · 2024年12月1日

**尚无公开证据。**FLI 于 2026年7月14日 报告称，该公司没有公布安全框架。

- [Artificial Intelligence Safety Commitments (China AI Industry Alliance), text and signatories](https://agora.eto.tech/instrument/1831) AGORA, Emerging Technology Observatory · 2024年12月1日

核查于 2026年11月10日 · [报告更正](#corrections)

尚无公开证据[Z.ai (Zhipu)](https://enterrsi.si/zh/promises/zai/)2024年12月1日

### 在每次发布或更新之前对模型进行红队测试和严格测试。

智谱（北京智谱华章科技），中国人工智能安全承诺签署方

原话

> "Through dedicated simulation and red-teaming experts to rigorously test AI models prior to their release or update"

来源 [Artificial Intelligence Safety Commitments](https://mp.weixin.qq.com/s/s-XFKQCWhu0uye4opgb3Ng) China AI Industry Alliance (AIIA) and CAICT · 2024年12月1日

**尚无公开证据。**在回答 FLI 的调查时（2026年7月14日），Z.ai 表示没有委托外部进行发布前测试。

- [Artificial Intelligence Safety Commitments (China AI Industry Alliance), text and signatories](https://agora.eto.tech/instrument/1831) AGORA, Emerging Technology Observatory · 2024年12月1日

核查于 2026年11月10日 · [报告更正](#corrections)

已兑现[Anthropic](https://enterrsi.si/zh/promises/anthropic/)2024年8月29日

### 在重大新模型公开发布前后，让美国 AI Safety Institute 获得访问权限。

Anthropic，与美国 AI Safety Institute 的协议

原话

> "access to major new models from each company prior to and following their public release"

来源 [U.S. AI Safety Institute signs agreements regarding AI safety research, testing and evaluation with Anthropic and OpenAI](https://nist.gov/news-events/news/2024/08/us-ai-safety-institute-signs-agreements-regarding-ai-safety-research) NIST · 2024年8月29日

**已兑现：**据 NIST 报告，NIST 发布了美英联合对升级版 Claude 3.5 Sonnet 的部署前测试。

[US AISI and UK AISI Joint Pre-Deployment Test: Anthropic's Claude 3.5 Sonnet (October 2024 Release)](https://www.nist.gov/document/us-aisi-uk-aisi-joint-testing-report-upgrade-claude-35-sonnet-111924) NIST · 2024年11月19日

核查于 2026年11月10日 · [报告更正](#corrections)

已兑现[OpenAI](https://enterrsi.si/zh/promises/openai/)2024年8月29日

### 在重大新模型公开发布前后，让美国 AI Safety Institute 获得访问权限。

OpenAI，与美国 AI Safety Institute 的协议

原话

> "access to major new models from each company prior to and following their public release"

来源 [U.S. AI Safety Institute signs agreements regarding AI safety research, testing and evaluation with Anthropic and OpenAI](https://nist.gov/news-events/news/2024/08/us-ai-safety-institute-signs-agreements-regarding-ai-safety-research) NIST · 2024年8月29日

**已兑现：**据 NIST 报告，NIST 发布了美英联合对 o1 的部署前测试。

[US AISI and UK AISI Joint Pre-Deployment Test: OpenAI o1](https://www.nist.gov/document/aisi-pre-deployment-evaluation-openai-o1-december-2024) NIST · 2024年12月18日

核查于 2026年11月10日 · [报告更正](#corrections)

已兑现[Amazon](https://enterrsi.si/zh/promises/amazon/)2024年5月21日

### 在 2025年2月 法国峰会之前发布针对严重风险的安全框架。

Amazon，首尔承诺签署方

原话

> "publishing a safety framework focused on severe risks by the upcoming AI Summit in France"

来源 [Frontier AI Safety Commitments, AI Seoul Summit 2024](https://www.gov.uk/government/publications/frontier-ai-safety-commitments-ai-seoul-summit-2024/frontier-ai-safety-commitments-ai-seoul-summit-2024) UK Department for Science, Innovation and Technology · 2024年5月21日

**已兑现：**据 METR 报告，其索引列出了自 2025年2月 起的 Frontier Model Safety Framework。

[Frontier AI Safety Policies (index of published company frameworks)](https://metr.org/fsp) METR · 2026年11月10日

核查于 2026年11月10日 · [报告更正](#corrections)

已兑现[Anthropic](https://enterrsi.si/zh/promises/anthropic/)2024年5月21日

### 在 2025年2月 法国峰会之前发布针对严重风险的安全框架。

Anthropic，首尔承诺签署方

原话

> "publishing a safety framework focused on severe risks by the upcoming AI Summit in France"

来源 [Frontier AI Safety Commitments, AI Seoul Summit 2024](https://www.gov.uk/government/publications/frontier-ai-safety-commitments-ai-seoul-summit-2024/frontier-ai-safety-commitments-ai-seoul-summit-2024) UK Department for Science, Innovation and Technology · 2024年5月21日

**已兑现：**据 METR 报告，其索引列出了自 2023年9月 起的 Responsible Scaling Policy。

[Frontier AI Safety Policies (index of published company frameworks)](https://metr.org/fsp) METR · 2026年11月10日

核查于 2026年11月10日 · [报告更正](#corrections)

已兑现[Google DeepMind](https://enterrsi.si/zh/promises/google-deepmind/)2024年5月21日

### 在 2025年2月 法国峰会之前发布针对严重风险的安全框架。

Google，首尔承诺签署方

原话

> "publishing a safety framework focused on severe risks by the upcoming AI Summit in France"

来源 [Frontier AI Safety Commitments, AI Seoul Summit 2024](https://www.gov.uk/government/publications/frontier-ai-safety-commitments-ai-seoul-summit-2024/frontier-ai-safety-commitments-ai-seoul-summit-2024) UK Department for Science, Innovation and Technology · 2024年5月21日

**已兑现：**据 METR 报告，其索引列出了自 2024 年 5 月起的 Frontier Safety Framework。

[Frontier AI Safety Policies (index of published company frameworks)](https://metr.org/fsp) METR · 2026年11月10日

核查于 2026年11月10日 · [报告更正](#corrections)

已兑现[Meta](https://enterrsi.si/zh/promises/meta/)2024年5月21日

### 在 2025年2月 法国峰会之前发布针对严重风险的安全框架。

Meta，首尔承诺签署方

原话

> "publishing a safety framework focused on severe risks by the upcoming AI Summit in France"

来源 [Frontier AI Safety Commitments, AI Seoul Summit 2024](https://www.gov.uk/government/publications/frontier-ai-safety-commitments-ai-seoul-summit-2024/frontier-ai-safety-commitments-ai-seoul-summit-2024) UK Department for Science, Innovation and Technology · 2024年5月21日

**已兑现：**据 METR 报告，其索引列出了自 2025年2月 起的 Frontier AI Framework。

[Frontier AI Safety Policies (index of published company frameworks)](https://metr.org/fsp) METR · 2026年11月10日

核查于 2026年11月10日 · [报告更正](#corrections)

已兑现[Microsoft](https://enterrsi.si/zh/promises/microsoft/)2024年5月21日

### 在 2025年2月 法国峰会之前发布针对严重风险的安全框架。

Microsoft，首尔承诺签署方

原话

> "publishing a safety framework focused on severe risks by the upcoming AI Summit in France"

来源 [Frontier AI Safety Commitments, AI Seoul Summit 2024](https://www.gov.uk/government/publications/frontier-ai-safety-commitments-ai-seoul-summit-2024/frontier-ai-safety-commitments-ai-seoul-summit-2024) UK Department for Science, Innovation and Technology · 2024年5月21日

**已兑现：**据 METR 报告，其索引列出了自 2025年2月 起的 Frontier Governance Framework。

[Frontier AI Safety Policies (index of published company frameworks)](https://metr.org/fsp) METR · 2026年11月10日

核查于 2026年11月10日 · [报告更正](#corrections)

未兑现[Mistral](https://enterrsi.si/zh/promises/mistral/)2024年5月21日

### 在 2025年2月 法国峰会之前发布针对严重风险的安全框架。

Mistral AI，首尔承诺签署方

原话

> "publishing a safety framework focused on severe risks by the upcoming AI Summit in France"

来源 [Frontier AI Safety Commitments, AI Seoul Summit 2024](https://www.gov.uk/government/publications/frontier-ai-safety-commitments-ai-seoul-summit-2024/frontier-ai-safety-commitments-ai-seoul-summit-2024) UK Department for Science, Innovation and Technology · 2024年5月21日

**未兑现：**Future of Life Institute 于 2026年7月14日 报道：Mistral 没有公布任何安全框架。

[AI Safety Index, Summer 2026 (full report)](https://futureoflife.org/wp-content/uploads/2026/07/AI-Safety-Index-Summer-2026-Digital-14-Jul.pdf) Future of Life Institute · 2026年7月14日

核查于 2026年11月10日 · [报告更正](#corrections)

已兑现[OpenAI](https://enterrsi.si/zh/promises/openai/)2024年5月21日

### 在 2025年2月 法国峰会之前发布针对严重风险的安全框架。

OpenAI，首尔承诺签署方

原话

> "publishing a safety framework focused on severe risks by the upcoming AI Summit in France"

来源 [Frontier AI Safety Commitments, AI Seoul Summit 2024](https://www.gov.uk/government/publications/frontier-ai-safety-commitments-ai-seoul-summit-2024/frontier-ai-safety-commitments-ai-seoul-summit-2024) UK Department for Science, Innovation and Technology · 2024年5月21日

**已兑现：**据 METR 报告，其索引列出了自 2023年12月 起的 Preparedness Framework。

[Frontier AI Safety Policies (index of published company frameworks)](https://metr.org/fsp) METR · 2026年11月10日

核查于 2026年11月10日 · [报告更正](#corrections)

已兑现[xAI](https://enterrsi.si/zh/promises/xai/)2024年5月21日

### 在 2025年2月 法国峰会之前发布针对严重风险的安全框架。

xAI，首尔承诺签署方

原话

> "publishing a safety framework focused on severe risks by the upcoming AI Summit in France"

来源 [Frontier AI Safety Commitments, AI Seoul Summit 2024](https://www.gov.uk/government/publications/frontier-ai-safety-commitments-ai-seoul-summit-2024/frontier-ai-safety-commitments-ai-seoul-summit-2024) UK Department for Science, Innovation and Technology · 2024年5月21日

**已兑现：**据 METR 报告，其索引列出了自 2025年2月 起的 Risk Management Framework 草案，以及自 2025年8月 起的第一个完整版本。

[Frontier AI Safety Policies (index of published company frameworks)](https://metr.org/fsp) METR · 2026年11月10日

核查于 2026年11月10日 · [报告更正](#corrections)

未兑现[Z.ai (Zhipu)](https://enterrsi.si/zh/promises/zai/)2024年5月21日

### 在 2025年2月 法国峰会之前发布针对严重风险的安全框架。

Zhipu.ai（现为 Z.ai），首尔承诺签署方

原话

> "publishing a safety framework focused on severe risks by the upcoming AI Summit in France"

来源 [Frontier AI Safety Commitments, AI Seoul Summit 2024](https://www.gov.uk/government/publications/frontier-ai-safety-commitments-ai-seoul-summit-2024/frontier-ai-safety-commitments-ai-seoul-summit-2024) UK Department for Science, Innovation and Technology · 2024年5月21日

**未兑现：**Future of Life Institute 于 2026年7月14日 报道："The company has no published framework."

[AI Safety Index, Summer 2026 (full report)](https://futureoflife.org/wp-content/uploads/2026/07/AI-Safety-Index-Summer-2026-Digital-14-Jul.pdf) Future of Life Institute · 2026年7月14日

核查于 2026年11月10日 · [报告更正](#corrections)

进行中[Amazon](https://enterrsi.si/zh/promises/amazon/)2023年7月21日

### 在发布前于公司内外测试模型。

Amazon，在白宫的七家公司之一

原话

> "internal and external security testing of their AI systems before their release"

来源 [Fact sheet: Biden-Harris Administration secures voluntary commitments from leading artificial intelligence companies to manage the risks posed by AI](https://bidenwhitehouse.archives.gov/briefing-room/statements-releases/2023/07/21/fact-sheet-biden-harris-administration-secures-voluntary-commitments-from-leading-artificial-intelligence-companies-to-manage-the-risks-posed-by-ai) The White House (archived) · 2023年7月21日

**进行中。**Amazon 的一篇论文（2026年1月27日）描述了一项针对 Nova 2.0 Lite 的独立 CBRN 能力提升研究；没有找到政府机构的测试。

核查于 2026年11月10日 · [报告更正](#corrections)

已兑现[Anthropic](https://enterrsi.si/zh/promises/anthropic/)2023年7月21日

### 在发布前于公司内外测试模型。

Anthropic，在白宫的七家公司之一

原话

> "internal and external security testing of their AI systems before their release"

来源 [Fact sheet: Biden-Harris Administration secures voluntary commitments from leading artificial intelligence companies to manage the risks posed by AI](https://bidenwhitehouse.archives.gov/briefing-room/statements-releases/2023/07/21/fact-sheet-biden-harris-administration-secures-voluntary-commitments-from-leading-artificial-intelligence-companies-to-manage-the-risks-posed-by-ai) The White House (archived) · 2023年7月21日

**已兑现：**据 NIST 报告：美国和英国的安全研究所在升级版 Claude 3.5 Sonnet 于 2024年10月 发布之前对其进行了测试。

[US AISI and UK AISI Joint Pre-Deployment Test: Anthropic's Claude 3.5 Sonnet (October 2024 Release)](https://www.nist.gov/document/us-aisi-uk-aisi-joint-testing-report-upgrade-claude-35-sonnet-111924) NIST · 2024年11月19日

核查于 2026年11月10日 · [报告更正](#corrections)

进行中[Google DeepMind](https://enterrsi.si/zh/promises/google-deepmind/)2023年7月21日

### 在发布前于公司内外测试模型。

Google，在白宫的七家公司之一

原话

> "internal and external security testing of their AI systems before their release"

来源 [Fact sheet: Biden-Harris Administration secures voluntary commitments from leading artificial intelligence companies to manage the risks posed by AI](https://bidenwhitehouse.archives.gov/briefing-room/statements-releases/2023/07/21/fact-sheet-biden-harris-administration-secures-voluntary-commitments-from-leading-artificial-intelligence-companies-to-manage-the-risks-posed-by-ai) The White House (archived) · 2023年7月21日

**进行中。**Google 自己的 Gemini 4 Argon 安全报告（2026年10月13日）列出了包括 NIST CAISSI 在内的外部测试方；尚无外部机构就此发布自己的报告。

核查于 2026年11月10日 · [报告更正](#corrections)

进行中[Meta](https://enterrsi.si/zh/promises/meta/)2023年7月21日

### 在发布前于公司内外测试模型。

Meta，在白宫的七家公司之一

原话

> "internal and external security testing of their AI systems before their release"

来源 [Fact sheet: Biden-Harris Administration secures voluntary commitments from leading artificial intelligence companies to manage the risks posed by AI](https://bidenwhitehouse.archives.gov/briefing-room/statements-releases/2023/07/21/fact-sheet-biden-harris-administration-secures-voluntary-commitments-from-leading-artificial-intelligence-companies-to-manage-the-risks-posed-by-ai) The White House (archived) · 2023年7月21日

**进行中。**FLI 于 2026年7月14日 报告称，Meta 在 Muse Spark 大范围内部使用之前请外部测试方进行了测试，发布权未作说明。

核查于 2026年11月10日 · [报告更正](#corrections)

尚无公开证据[Microsoft](https://enterrsi.si/zh/promises/microsoft/)2023年7月21日

### 在发布前于公司内外测试模型。

Microsoft，在白宫的七家公司之一

原话

> "internal and external security testing of their AI systems before their release"

来源 [Fact sheet: Biden-Harris Administration secures voluntary commitments from leading artificial intelligence companies to manage the risks posed by AI](https://bidenwhitehouse.archives.gov/briefing-room/statements-releases/2023/07/21/fact-sheet-biden-harris-administration-secures-voluntary-commitments-from-leading-artificial-intelligence-companies-to-manage-the-risks-posed-by-ai) The White House (archived) · 2023年7月21日

**尚无公开证据。**MAI-Thinking-1 技术报告（2026年6月2日）没有列出任何针对危险能力的外部测试方。

核查于 2026年11月10日 · [报告更正](#corrections)

已兑现[OpenAI](https://enterrsi.si/zh/promises/openai/)2023年7月21日

### 在发布前于公司内外测试模型。

OpenAI，在白宫的七家公司之一

原话

> "internal and external security testing of their AI systems before their release"

来源 [Fact sheet: Biden-Harris Administration secures voluntary commitments from leading artificial intelligence companies to manage the risks posed by AI](https://bidenwhitehouse.archives.gov/briefing-room/statements-releases/2023/07/21/fact-sheet-biden-harris-administration-secures-voluntary-commitments-from-leading-artificial-intelligence-companies-to-manage-the-risks-posed-by-ai) The White House (archived) · 2023年7月21日

**已兑现：**据英国 AI Security Institute 报告，该机构在 GPT-6 Astra 公开发布前对其进行了测试。

[GPT-6 Astra performs unsanctioned supply-chain attacks in simulations](https://www.aisi.gov.uk/blog/gpt-6-astra-performs-unsanctioned-supply-chain-attacks-in-simulations) UK AI Security Institute · 2026年9月28日

核查于 2026年11月10日 · [报告更正](#corrections)

未兑现[OpenAI](https://enterrsi.si/zh/promises/openai/)2023年7月5日

### 把 20% 的算力用于 Superalignment 团队控制超级智能的工作。

OpenAI，Jan Leike 和 Ilya Sutskever 的一篇文章

原话

> "dedicating 20% of the compute we've secured to date over the next four years"

来源 [Introducing Superalignment](https://openai.com/index/introducing-superalignment/) OpenAI · 2023年7月5日

**未兑现：**Fortune 于 2024年5月21日 报道："OpenAI never fulfilled its commitment to provide the team with 20% of its computing power."

[OpenAI promised 20% of its computing power to combat the most dangerous kind of AI, but never delivered, sources say](https://fortune.com/2024/05/21/openai-superalignment-20-compute-commitment-never-fulfilled-sutskever-leike-altman-brockman-murati/) Fortune · 2024年5月21日

核查于 2026年11月10日 · [报告更正](#corrections)

已撤回[Google DeepMind](https://enterrsi.si/zh/promises/google-deepmind/)2018年6月7日

### 不研发以伤害人为主要目的的武器或其他技术。

Google，首席执行官 Sundar Pichai 的 "AI at Google: our principles"

原话

> "Weapons or other technologies whose principal purpose or implementation is to cause or directly facilitate injury to people."

来源 [AI at Google: our principles](https://blog.google/technology/ai/ai-principles/) Google · 2018年6月7日

**已撤回：**TechCrunch 于 2025年2月4日 报道：Google 从其公布的原则中删除了 "applications we will not pursue" 一节，其中包括武器。

[Google removes pledge to not use AI for weapons from website](https://techcrunch.com/2025/02/04/google-removes-pledge-to-not-use-ai-for-weapons-from-website/) TechCrunch · 2025年2月4日

核查于 2026年11月10日 · [报告更正](#corrections)

尚无公开证据[OpenAI](https://enterrsi.si/zh/promises/openai/)2018年4月9日

### 如果一个重视安全的项目先接近造出 AGI，就停止与之竞争，转而协助它。

OpenAI，其章程（Charter）

原话

> "we commit to stop competing with and start assisting this project"

来源 [OpenAI Charter](https://openai.com/charter/) OpenAI · 2018年4月9日

**尚无公开证据。**该条款仍在章程页面上；没有公开报告称它曾被启用。

核查于 2026年11月10日 · [报告更正](#corrections)

评估方法

## 五种状态，每种都有来源或采取谨慎态度

承诺只有在有主要来源时才会列出。状态是有信誉的公开来源所支持的最强状态，绝不更强。

状态定义

### 每种状态的含义

- 已兑现
  有信誉的公开来源报告该承诺已经兑现。来源会写明并链接，附日期。
- 未兑现
  有信誉的公开来源报告该承诺没有兑现，或期限已过而未兑现。
- 已撤回
  据有信誉的公开来源报告，作出承诺的一方删除或替换了该承诺。
- 进行中
  承诺仍在进行或尚未到期，公开记录显示有相关进展。
- 尚无公开证据
  没有公开、有信誉的来源显示承诺已兑现或被违背。这是谨慎的默认状态。

更正

### 发现错误了吗？

每个条目都链接到其来源和核查日期。如果某项承诺缺失、引用有误或有更新的状态，请在 [Telegram](https://t.me/enterrsitg) 或 [X](https://x.com/enterrsi) 上发送公开来源。更正公开进行，并附新的核查日期。

[发送更正](https://t.me/enterrsitg)

引用承诺追踪

承诺追踪：SI实验室的公开安全承诺。enterrsi.si，核查于 2026年11月10日。47 项承诺，11 家实验室。https://enterrsi.si/zh/promises/

可按 CC BY 4.0 免费引用，请附上 enterrsi.si/promises/ 的链接。

[下载 JSON](https://enterrsi.si/promises/promises.json)[下载 CSV](https://enterrsi.si/promises/promises.csv)

嵌入

### 把这份统计放到你的网站上

一张小卡片，显示承诺的总体统计并附回链。本页每次更新时它也会更新。

```
<div data-rsi-promises></div><script src="https://enterrsi.si/promises/embed.js" async></script>
```

传出去

### 分享承诺追踪

问题

## 直接的回答

承诺追踪如何运作，四个回答。

### 什么算作承诺？

实验室或其负责人就安全作出的公开、面向未来的承诺：出现在已签署的公开承诺中（例如 2023 年白宫自愿承诺或 2024 年 Seoul Frontier AI Safety Commitments），出现在证词、已发布的框架或实验室自己的页面上。每一项都只与其主要来源一同列出。

### 谁来判定承诺是否兑现？

不是本站。只有当有信誉的公开来源作出报告时，才会显示已兑现、未兑现和已撤回，并且条目会写明该来源及其日期。否则状态为进行中或尚无公开证据；有疑问时，采用更谨慎的状态。

### 这与遏制评分榜有什么关系？

[遏制评分榜](https://enterrsi.si/zh/containment-board/)为每家实验室目前已落实的措施评分。承诺追踪关注每家实验室说过要做什么。两边的实验室页面互相链接。

### 如何更正某个条目？

在 [Telegram](https://t.me/enterrsitg) 或 [X](https://x.com/enterrsi) 上发送公开来源。更正公开进行，条目会获得新的核查日期。

进入 RSI

## 一边是承诺，一边是评分

遏制评分榜为每家实验室目前已落实的措施评分，从安全框架到举报人政策。

[打开遏制评分榜](https://enterrsi.si/zh/containment-board/)
[管控地图](https://enterrsi.si/zh/control-map/)
[公众意见台](https://enterrsi.si/zh/comment-desk/)