# 約束トラッカー：SIラボの安全上の約束を検証
> SIラボ11社とその経営者による公開の安全上の約束47件。それぞれに一次ソースと、履行済み・未履行・撤回・進行中のステータスを付けています。
Source: https://enterrsi.si/ja/promises/
Updated: 2026-11-08
1. [ホーム](https://enterrsi.si/ja/)
2. 約束トラッカー
約束トラッカー · 2026年11月10日確認
# 約束トラッカー
約束トラッカーは、[封じ込めボード](https://enterrsi.si/ja/containment-board/)に載るSIラボ11社とその経営者による**公開された安全上の約束47件**を、一次ソース、日付、ステータスとともに掲載しています。約束が履行済みまたは未履行と表示されるのは、信頼できる公開ソースが報じたときだけで、そのソースを名前とリンクで示します。2026年11月10日時点で、11件が履行、4件が未履行、2件が撤回と報じられ、残る30件は進行中か、まだ公開された証拠がありません。
約束
: 47
ラボ
: 11
履行の報告
: 11
未履行の報告
: 4
集計
## ラボが約束したこと、そしてその後
慎重な2つのステータスを除き、すべてのステータスに名前の明らかな公開ソースがあります。バーはラボごとの約束をステータス別に示し、チップは封じ込めボードでの評価です。
47
約束
11
履行済み
4
未履行
2
撤回
18
進行中
12
証拠なし
1. [Anthropic](https://enterrsi.si/ja/promises/anthropic/)5B+
2. [OpenAI](https://enterrsi.si/ja/promises/openai/)7B
3. [Google DeepMind](https://enterrsi.si/ja/promises/google-deepmind/)5B-
4. [Microsoft](https://enterrsi.si/ja/promises/microsoft/)6C+
5. [Meta](https://enterrsi.si/ja/promises/meta/)5C+
6. [Amazon](https://enterrsi.si/ja/promises/amazon/)5C
7. [xAI](https://enterrsi.si/ja/promises/xai/)4D+
8. [Mistral](https://enterrsi.si/ja/promises/mistral/)3D
9. [Z.ai (Zhipu)](https://enterrsi.si/ja/promises/zai/)3D
10. [Alibaba (Qwen)](https://enterrsi.si/ja/promises/alibaba/)2D-
11. [DeepSeek](https://enterrsi.si/ja/promises/deepseek/)2F
すべての約束
## 約束47件すべて、新しい順
ステータス、ラボ、テーマで絞り込めます。各項目には、短ければ原文の言葉、一次ソース、独自のソースを持つステータス、確認日を載せています。
公開された証拠なし[Mistral](https://enterrsi.si/ja/promises/mistral/)2026年10月6日
### 重みを公開する前に、サイバーセキュリティの第一人者、パートナー、国の機関とともにモデルのレッドチーミングを行う。
Mistral AI、Mistral Large 4の発表にて
原文の言葉
> "we are red-teaming the model in real-world settings with cybersecurity leaders, vetted partners, and state authorities"
出典 [Introducing Mistral Large 4](https://mistral.ai/news/mistral-large-4/) Mistral AI · 2026年10月6日
**公開された証拠なし。**評価者、手法、結果はいずれも公表されておらず、重みは2026年10月29日に公開されました。
2026年11月10日確認 · [訂正を報告](#corrections)
進行中[Meta](https://enterrsi.si/ja/promises/meta/)2026年10月2日
### 緩和策でリスクが下がるという強い証拠がないまま、高リスクのモデルを外部に公開しない。
Meta、Superintelligence Scaling Framework 2.1
原文の言葉
> "we will not deploy the model externally unless we have strong additional evidence"
出典 [Meta Superintelligence Scaling Framework, Version 2.1](https://research.meta.ai/static/meta-superintelligence-scaling-framework) Meta · 2026年10月2日
**進行中。**このフレームワークは2026年10月に発効しました。Metaはその外部監査を公表していません。
2026年11月10日確認 · [訂正を報告](#corrections)
進行中[Amazon](https://enterrsi.si/ja/promises/amazon/)2026年9月17日
### Critical Capability Threshold（重大能力閾値）に達したモデルは、安全策がリスクを緩和するまで展開しない。
Amazon、Frontier Model Safety Framework
原文の言葉
> "we will not deploy the model until safeguards appropriately mitigate the risks."
出典 [Amazon's Frontier Model Safety Framework (September 2026)](https://cdn.amazon.science/a0/4f/bca5cb32495280835d9370a466b7/amazon-fmsf-9-2026.pdf) Amazon · 2026年9月17日
**進行中。**METRは、Nova 2.0 Liteが自動化研究のCritical Capability Thresholdを超えないと結論づけました。
- [Strengthening AI safety evaluation through independent third-party review](https://www.amazon.science/blog/strengthening-ai-safety-evaluation-through-independent-third-party-review) Amazon Science · 2026年10月20日
2026年11月10日確認 · [訂正を報告](#corrections)
進行中[Amazon](https://enterrsi.si/ja/promises/amazon/)2026年9月17日
### 最も高性能なフロンティアモデルの安全評価報告書を公表する。
Amazon、Frontier Model Safety Framework
原文の言葉
> "we publish safety evaluation reports for our most capable frontier models"
出典 [Amazon's Frontier Model Safety Framework (September 2026)](https://cdn.amazon.science/a0/4f/bca5cb32495280835d9370a466b7/amazon-fmsf-9-2026.pdf) Amazon · 2026年9月17日
**進行中。**Amazonの著者が2026年1月27日にNova 2.0 Liteの評価報告書をarXivに投稿しました。
- [Evaluating Nova 2.0 Lite model under Amazon's Frontier Model Safety Framework](https://arxiv.org/abs/2601.19134) arXiv (Amazon authors) · 2026年1月27日
2026年11月10日確認 · [訂正を報告](#corrections)
進行中[Anthropic](https://enterrsi.si/ja/promises/anthropic/)2026年7月8日
### 展開済みモデルのリスク報告書を公表し、Long-Term Benefit Trustが求めたときは外部のレビュアーに確認させる。
Anthropic、Responsible Scaling Policy 3.4
当サイトによる要約
出典 [Anthropic's Responsible Scaling Policy](https://www.anthropic.com/responsible-scaling-policy) Anthropic · 2026年7月8日
**進行中。**バージョン3.4は2026年7月8日に発効しました。リスク報告書の外部レビューはまだ公表されていません。
2026年11月10日確認 · [訂正を報告](#corrections)
公開された証拠なし[xAI](https://enterrsi.si/ja/promises/xai/)2026年6月30日
### インシデント報告書の写しを当局に送る。
xAI、Frontier Artificial Intelligence Framework
原文の言葉
> "will provide the relevant authorities with a copy of the incident report"
出典 [xAI Frontier Artificial Intelligence Framework](https://media.x.ai/v1/website/xai-frontier-artificial-intelligence-framework-30-june-2026-f1f0c916.pdf) xAI · 2026年6月30日
**公開された証拠なし。**FLIは、xAIによる悪用やミスアラインメントに関する透明性報告書を見つけられませんでした（2026年7月14日）。
2026年11月10日確認 · [訂正を報告](#corrections)
進行中[Google DeepMind](https://enterrsi.si/ja/promises/google-deepmind/)2026年4月17日
### Critical Capability Level（重大能力レベル）に達したモデルは、展開前に安全性の論証で裏付ける。
Google DeepMind、Frontier Safety Framework 3.1
原文の言葉
> "Where the model has reached a CCL, the residual risk assessment will be supplemented with a safety case."
出典 [Frontier Safety Framework, Version 3.1](https://storage.googleapis.com/deepmind-media/DeepMind.com/Blog/strengthening-our-frontier-safety-framework/frontier-safety-framework_3-1.pdf) Google DeepMind · 2026年4月17日
**進行中。**GoogleのGemini 4 Argon安全報告書（2026年10月13日）は、サイバーセキュリティのCritical Capability Levelに達した可能性を否定できないとしています。安全性の論証は公表されていません。
- [Gemini 4 Argon Safety and Security Report](https://storage.googleapis.com/deepmind-media/gemini/gemini_4_safety_report.pdf) Google DeepMind · 2026年10月13日
2026年11月10日確認 · [訂正を報告](#corrections)
進行中[Microsoft](https://enterrsi.si/ja/promises/microsoft/)2026年2月13日
### リスクを十分に緩和できないモデルは、開発と展開を一時停止する。
Microsoft、Frontier Governance Framework
原文の言葉
> "we will pause development and deployment until the point at which mitigation practices evolve to meet the risk"
出典 [Frontier Governance Framework (February 2026)](https://cdn-dynmedia-1.microsoft.com/is/content/microsoftcorp/microsoft/msc/documents/presentations/CSR/Frontier-Governance-Framework-Feb-2026.pdf) Microsoft · 2026年2月13日
**進行中。**一時停止の公的な記録は報じられていません。
2026年11月10日確認 · [訂正を報告](#corrections)
公開された証拠なし[Microsoft](https://enterrsi.si/ja/promises/microsoft/)2026年2月13日
### 対象となる各モデルの評価結果とリスク分類を公表する。
Microsoft、Frontier Governance Framework
原文の言葉
> "relevant evaluations, and the model's risk classification will be shared publicly"
出典 [Frontier Governance Framework (February 2026)](https://cdn-dynmedia-1.microsoft.com/is/content/microsoftcorp/microsoft/msc/documents/presentations/CSR/Frontier-Governance-Framework-Feb-2026.pdf) Microsoft · 2026年2月13日
**公開された証拠なし。**MAI-Thinking-1の技術報告書（2026年6月2日）は安全ベンチマークの結果を示していますが、フロンティアリスクの分類はありません。
- [MAI-Thinking-1: Building a Hill-Climbing Machine](https://microsoft.ai/wp-content/uploads/2026/06/main_20260602_2.pdf) Microsoft AI · 2026年6月2日
2026年11月10日確認 · [訂正を報告](#corrections)
進行中[Microsoft](https://enterrsi.si/ja/promises/microsoft/)2025年11月6日
### 人間が主導権を保てる範囲の中でのみ超知能をつくる。
Mustafa Suleyman、Microsoft AI CEO
原文の言葉
> "we are not building a superintelligence at any cost, with no limits"
出典 [Towards Humanist Superintelligence](https://microsoft.ai/blog/towards-humanist-superintelligence) Microsoft AI · 2025年11月6日
**進行中。**MicrosoftのFrontier Governance Framework（2026年2月）は、一時停止の約束を含む制限を文書にしています。
2026年11月10日確認 · [訂正を報告](#corrections)
進行中[Amazon](https://enterrsi.si/ja/promises/amazon/)2025年8月1日
### 最も高性能なモデルについて、EU General-Purpose AI Code of Practiceの安全とセキュリティ（Safety and Security）の章に従う。
Amazon、EU Code of Practiceの署名企業
当サイトによる要約
出典 [The General-Purpose AI Code of Practice: signatories](https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai) European Commission · 2026年10月7日
**進行中。**欧州委員会は署名を掲載していますが（ページ更新2026年10月7日）、EU AI Officeは遵守状況の評価を公表していません。
2026年11月10日確認 · [訂正を報告](#corrections)
進行中[Anthropic](https://enterrsi.si/ja/promises/anthropic/)2025年8月1日
### 最も高性能なモデルについて、EU General-Purpose AI Code of Practiceの安全とセキュリティ（Safety and Security）の章に従う。
Anthropic、EU Code of Practiceの署名企業
当サイトによる要約
出典 [The General-Purpose AI Code of Practice: signatories](https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai) European Commission · 2026年10月7日
**進行中。**欧州委員会は署名を掲載していますが（ページ更新2026年10月7日）、EU AI Officeは遵守状況の評価を公表していません。
2026年11月10日確認 · [訂正を報告](#corrections)
進行中[Google DeepMind](https://enterrsi.si/ja/promises/google-deepmind/)2025年8月1日
### 最も高性能なモデルについて、EU General-Purpose AI Code of Practiceの安全とセキュリティ（Safety and Security）の章に従う。
Google、EU Code of Practiceの署名企業
当サイトによる要約
出典 [The General-Purpose AI Code of Practice: signatories](https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai) European Commission · 2026年10月7日
**進行中。**欧州委員会は署名を掲載していますが（ページ更新2026年10月7日）、EU AI Officeは遵守状況の評価を公表していません。
2026年11月10日確認 · [訂正を報告](#corrections)
進行中[Microsoft](https://enterrsi.si/ja/promises/microsoft/)2025年8月1日
### 最も高性能なモデルについて、EU General-Purpose AI Code of Practiceの安全とセキュリティ（Safety and Security）の章に従う。
Microsoft、EU Code of Practiceの署名企業
当サイトによる要約
出典 [The General-Purpose AI Code of Practice: signatories](https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai) European Commission · 2026年10月7日
**進行中。**欧州委員会は署名を掲載していますが（ページ更新2026年10月7日）、EU AI Officeは遵守状況の評価を公表していません。
2026年11月10日確認 · [訂正を報告](#corrections)
進行中[Mistral](https://enterrsi.si/ja/promises/mistral/)2025年8月1日
### 最も高性能なモデルについて、EU General-Purpose AI Code of Practiceの安全とセキュリティ（Safety and Security）の章に従う。
Mistral AI、EU Code of Practiceの署名企業
当サイトによる要約
出典 [The General-Purpose AI Code of Practice: signatories](https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai) European Commission · 2026年10月7日
**進行中。**欧州委員会は署名を掲載していますが（ページ更新2026年10月7日）、EU AI Officeは遵守状況の評価を公表していません。
2026年11月10日確認 · [訂正を報告](#corrections)
進行中[OpenAI](https://enterrsi.si/ja/promises/openai/)2025年8月1日
### 最も高性能なモデルについて、EU General-Purpose AI Code of Practiceの安全とセキュリティ（Safety and Security）の章に従う。
OpenAI、EU Code of Practiceの署名企業
当サイトによる要約
出典 [The General-Purpose AI Code of Practice: signatories](https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai) European Commission · 2026年10月7日
**進行中。**欧州委員会は署名を掲載していますが（ページ更新2026年10月7日）、EU AI Officeは遵守状況の評価を公表していません。
2026年11月10日確認 · [訂正を報告](#corrections)
進行中[xAI](https://enterrsi.si/ja/promises/xai/)2025年8月1日
### 最も高性能なモデルについて、EU General-Purpose AI Code of Practiceの安全とセキュリティ（Safety and Security）の章に従う。
xAI、EU Code of Practiceの署名企業
当サイトによる要約
出典 [The General-Purpose AI Code of Practice: signatories](https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai) European Commission · 2026年10月7日
**進行中。**欧州委員会は署名を掲載していますが（ページ更新2026年10月7日）、EU AI Officeは遵守状況の評価を公表していません。xAIが署名したのは安全とセキュリティ（Safety and Security）の章だけです。
2026年11月10日確認 · [訂正を報告](#corrections)
公開された証拠なし[Meta](https://enterrsi.si/ja/promises/meta/)2025年7月30日
### 超知能のリスクに厳格に向き合い、Metaがオープンソースにするものには慎重を期す。
Mark Zuckerberg、Meta CEO
原文の言葉
> "We'll need to be rigorous about mitigating these risks and careful about what we choose to open source."
出典 [Personal Superintelligence](https://www.meta.com/superintelligence/) Meta · 2025年7月30日
**公開された証拠なし。**この誓約について、公開された信頼できる評価は見つかりませんでした。
2026年11月10日確認 · [訂正を報告](#corrections)
進行中[OpenAI](https://enterrsi.si/ja/promises/openai/)2025年4月15日
### モデルがCriticalの能力に達したら、それに見合う安全策ができるまで開発を止める。
OpenAI、Preparedness Frameworkバージョン2
原文の言葉
> "Until we have specified safeguards and security controls that would meet a Critical standard, halt further development"
出典 [Preparedness Framework, Version 2](https://cdn.openai.com/pdf/18a02b5d-6b67-4cec-ab64-68cdfbddebcd/preparedness-framework-v2.pdf) OpenAI · 2025年4月15日
**進行中。**OpenAIのGPT-6 Astra System Card（2026年9月3日）は、このモデルをサイバーセキュリティでCriticalと評価しています。FLIは2026年7月14日、OpenAIが改訂したフレームワークで約束を後退させたと報じました。
- [GPT-6 Astra System Card](https://deploymentsafety.openai.com/gpt-6-astra) OpenAI · 2026年9月3日
2026年11月10日確認 · [訂正を報告](#corrections)
未履行[xAI](https://enterrsi.si/ja/promises/xai/)2025年2月10日
### 2025年2月の草案から3か月以内に、改訂した安全フレームワークを公表する。
xAI、Risk Management Frameworkの草案にて
原文の言葉
> "We plan to release an updated version of this policy within three months."
出典 [xAI Risk Management Framework (Draft)](https://x.ai/documents/2025.02.10-RMF-Draft.pdf) xAI · 2025年2月10日
**未履行：**TechCrunchが2025年5月13日に報道：5月10日の期限は "came and went without acknowledgement on xAI's official channels." METRは最初の正式版を2025年8月のものとしています。
[xAI's promised safety report is MIA](https://techcrunch.com/2025/05/13/xais-promised-safety-report-is-mia/) TechCrunch · 2025年5月13日
- [Frontier AI Safety Policies (index of published company frameworks)](https://metr.org/fsp) METR · 2026年11月10日
2026年11月10日確認 · [訂正を報告](#corrections)
撤回[Meta](https://enterrsi.si/ja/promises/meta/)2025年2月3日
### リスクを緩和できない場合、重大リスクの閾値に達したモデルの開発を止める。
Meta、Frontier AI Framework
原文の言葉
> "If a frontier AI is assessed to have reached the critical risk threshold and cannot be mitigated, we will stop development"
出典 [Frontier AI Framework](https://ai.meta.com/static-resource/meta-frontier-ai-framework) Meta · 2025年2月3日
**撤回：**Future of Life Instituteが2026年7月14日に報道：Metaは "has also backslided on pause commitments"。2026年4月の改訂版では、Critical段階の対応が「停止」から「緩和策を講じて開発」に変わりました。
[AI Safety Index, Summer 2026 (full report)](https://futureoflife.org/wp-content/uploads/2026/07/AI-Safety-Index-Summer-2026-Digital-14-Jul.pdf) Future of Life Institute · 2026年7月14日
- [Meta Superintelligence Scaling Framework, Version 2.1](https://research.meta.ai/static/meta-superintelligence-scaling-framework) Meta · 2026年10月2日
2026年11月10日確認 · [訂正を報告](#corrections)
公開された証拠なし[Alibaba (Qwen)](https://enterrsi.si/ja/promises/alibaba/)2024年12月1日
### 安全とセキュリティのガバナンス措置を公開する。
Alibaba、中国の人工知能安全コミットメントの署名企業
原文の言葉
> "Proactively disclose safety and security governance measures"
出典 [Artificial Intelligence Safety Commitments](https://mp.weixin.qq.com/s/s-XFKQCWhu0uye4opgb3Ng) China AI Industry Alliance (AIIA) and CAICT · 2024年12月1日
**公開された証拠なし。**FLIは2026年7月14日、同社には公表された安全フレームワークがないと報じました。
- [Artificial Intelligence Safety Commitments (China AI Industry Alliance), text and signatories](https://agora.eto.tech/instrument/1831) AGORA, Emerging Technology Observatory · 2024年12月1日
2026年11月10日確認 · [訂正を報告](#corrections)
公開された証拠なし[Alibaba (Qwen)](https://enterrsi.si/ja/promises/alibaba/)2024年12月1日
### リリースや更新のたびに、その前にモデルのレッドチーミングと厳格なテストを行う。
Alibaba、中国の人工知能安全コミットメントの署名企業
原文の言葉
> "Through dedicated simulation and red-teaming experts to rigorously test AI models prior to their release or update"
出典 [Artificial Intelligence Safety Commitments](https://mp.weixin.qq.com/s/s-XFKQCWhu0uye4opgb3Ng) China AI Industry Alliance (AIIA) and CAICT · 2024年12月1日
**公開された証拠なし。**FLIは2026年7月14日、公開前の外部テストに関する公の言及を見つけられなかったと報じました。
- [Artificial Intelligence Safety Commitments (China AI Industry Alliance), text and signatories](https://agora.eto.tech/instrument/1831) AGORA, Emerging Technology Observatory · 2024年12月1日
2026年11月10日確認 · [訂正を報告](#corrections)
公開された証拠なし[DeepSeek](https://enterrsi.si/ja/promises/deepseek/)2024年12月1日
### 安全とセキュリティのガバナンス措置を公開する。
DeepSeek、中国の人工知能安全コミットメントの署名企業
原文の言葉
> "Proactively disclose safety and security governance measures"
出典 [Artificial Intelligence Safety Commitments](https://mp.weixin.qq.com/s/s-XFKQCWhu0uye4opgb3Ng) China AI Industry Alliance (AIIA) and CAICT · 2024年12月1日
**公開された証拠なし。**FLIは2026年7月14日、同社には公表された安全フレームワークがないと報じました。
- [DeepSeek and other Chinese firms converge with Western companies on AI promises](https://carnegieendowment.org/research/2025/01/deepseek-and-other-chinese-firms-converge-with-western-companies-on-ai-promises?lang=en) Carnegie Endowment for International Peace · 2025年1月28日
2026年11月10日確認 · [訂正を報告](#corrections)
公開された証拠なし[DeepSeek](https://enterrsi.si/ja/promises/deepseek/)2024年12月1日
### リリースや更新のたびに、その前にモデルのレッドチーミングと厳格なテストを行う。
DeepSeek、中国の人工知能安全コミットメントの署名企業
原文の言葉
> "Through dedicated simulation and red-teaming experts to rigorously test AI models prior to their release or update"
出典 [Artificial Intelligence Safety Commitments](https://mp.weixin.qq.com/s/s-XFKQCWhu0uye4opgb3Ng) China AI Industry Alliance (AIIA) and CAICT · 2024年12月1日
**公開された証拠なし。**FLIは2026年7月14日、公開前の外部テストに関する公の言及を見つけられなかったと報じました。
- [DeepSeek and other Chinese firms converge with Western companies on AI promises](https://carnegieendowment.org/research/2025/01/deepseek-and-other-chinese-firms-converge-with-western-companies-on-ai-promises?lang=en) Carnegie Endowment for International Peace · 2025年1月28日
2026年11月10日確認 · [訂正を報告](#corrections)
公開された証拠なし[Z.ai (Zhipu)](https://enterrsi.si/ja/promises/zai/)2024年12月1日
### 安全とセキュリティのガバナンス措置を公開する。
Zhipu（北京智譜華章科技）、中国の人工知能安全コミットメントの署名企業
原文の言葉
> "Proactively disclose safety and security governance measures"
出典 [Artificial Intelligence Safety Commitments](https://mp.weixin.qq.com/s/s-XFKQCWhu0uye4opgb3Ng) China AI Industry Alliance (AIIA) and CAICT · 2024年12月1日
**公開された証拠なし。**FLIは2026年7月14日、同社には公表された安全フレームワークがないと報じました。
- [Artificial Intelligence Safety Commitments (China AI Industry Alliance), text and signatories](https://agora.eto.tech/instrument/1831) AGORA, Emerging Technology Observatory · 2024年12月1日
2026年11月10日確認 · [訂正を報告](#corrections)
公開された証拠なし[Z.ai (Zhipu)](https://enterrsi.si/ja/promises/zai/)2024年12月1日
### リリースや更新のたびに、その前にモデルのレッドチーミングと厳格なテストを行う。
Zhipu（北京智譜華章科技）、中国の人工知能安全コミットメントの署名企業
原文の言葉
> "Through dedicated simulation and red-teaming experts to rigorously test AI models prior to their release or update"
出典 [Artificial Intelligence Safety Commitments](https://mp.weixin.qq.com/s/s-XFKQCWhu0uye4opgb3Ng) China AI Industry Alliance (AIIA) and CAICT · 2024年12月1日
**公開された証拠なし。**FLIの調査への回答（2026年7月14日）で、Z.aiは公開前の外部テストを委託しなかったと述べています。
- [Artificial Intelligence Safety Commitments (China AI Industry Alliance), text and signatories](https://agora.eto.tech/instrument/1831) AGORA, Emerging Technology Observatory · 2024年12月1日
2026年11月10日確認 · [訂正を報告](#corrections)
履行済み[Anthropic](https://enterrsi.si/ja/promises/anthropic/)2024年8月29日
### 主要な新モデルの一般公開の前後に、米国AI Safety Instituteにアクセスを認める。
Anthropic、米国AI Safety Instituteとの合意
原文の言葉
> "access to major new models from each company prior to and following their public release"
出典 [U.S. AI Safety Institute signs agreements regarding AI safety research, testing and evaluation with Anthropic and OpenAI](https://nist.gov/news-events/news/2024/08/us-ai-safety-institute-signs-agreements-regarding-ai-safety-research) NIST · 2024年8月29日
**履行済み：**NISTが報告。NISTは、アップグレード版Claude 3.5 Sonnetに対する米英共同の展開前テストを公表しました。
[US AISI and UK AISI Joint Pre-Deployment Test: Anthropic's Claude 3.5 Sonnet (October 2024 Release)](https://www.nist.gov/document/us-aisi-uk-aisi-joint-testing-report-upgrade-claude-35-sonnet-111924) NIST · 2024年11月19日
2026年11月10日確認 · [訂正を報告](#corrections)
履行済み[OpenAI](https://enterrsi.si/ja/promises/openai/)2024年8月29日
### 主要な新モデルの一般公開の前後に、米国AI Safety Instituteにアクセスを認める。
OpenAI、米国AI Safety Instituteとの合意
原文の言葉
> "access to major new models from each company prior to and following their public release"
出典 [U.S. AI Safety Institute signs agreements regarding AI safety research, testing and evaluation with Anthropic and OpenAI](https://nist.gov/news-events/news/2024/08/us-ai-safety-institute-signs-agreements-regarding-ai-safety-research) NIST · 2024年8月29日
**履行済み：**NISTが報告。NISTは、o1に対する米英共同の展開前テストを公表しました。
[US AISI and UK AISI Joint Pre-Deployment Test: OpenAI o1](https://www.nist.gov/document/aisi-pre-deployment-evaluation-openai-o1-december-2024) NIST · 2024年12月18日
2026年11月10日確認 · [訂正を報告](#corrections)
履行済み[Amazon](https://enterrsi.si/ja/promises/amazon/)2024年5月21日
### 2025年2月のフランスでのサミットまでに、重大なリスクに関する安全フレームワークを公表する。
Amazon、ソウル・コミットメントの署名企業
原文の言葉
> "publishing a safety framework focused on severe risks by the upcoming AI Summit in France"
出典 [Frontier AI Safety Commitments, AI Seoul Summit 2024](https://www.gov.uk/government/publications/frontier-ai-safety-commitments-ai-seoul-summit-2024/frontier-ai-safety-commitments-ai-seoul-summit-2024) UK Department for Science, Innovation and Technology · 2024年5月21日
**履行済み：**METRが報告。METRの一覧には2025年2月からFrontier Model Safety Frameworkが載っています。
[Frontier AI Safety Policies (index of published company frameworks)](https://metr.org/fsp) METR · 2026年11月10日
2026年11月10日確認 · [訂正を報告](#corrections)
履行済み[Anthropic](https://enterrsi.si/ja/promises/anthropic/)2024年5月21日
### 2025年2月のフランスでのサミットまでに、重大なリスクに関する安全フレームワークを公表する。
Anthropic、ソウル・コミットメントの署名企業
原文の言葉
> "publishing a safety framework focused on severe risks by the upcoming AI Summit in France"
出典 [Frontier AI Safety Commitments, AI Seoul Summit 2024](https://www.gov.uk/government/publications/frontier-ai-safety-commitments-ai-seoul-summit-2024/frontier-ai-safety-commitments-ai-seoul-summit-2024) UK Department for Science, Innovation and Technology · 2024年5月21日
**履行済み：**METRが報告。METRの一覧には2023年9月からResponsible Scaling Policyが載っています。
[Frontier AI Safety Policies (index of published company frameworks)](https://metr.org/fsp) METR · 2026年11月10日
2026年11月10日確認 · [訂正を報告](#corrections)
履行済み[Google DeepMind](https://enterrsi.si/ja/promises/google-deepmind/)2024年5月21日
### 2025年2月のフランスでのサミットまでに、重大なリスクに関する安全フレームワークを公表する。
Google、ソウル・コミットメントの署名企業
原文の言葉
> "publishing a safety framework focused on severe risks by the upcoming AI Summit in France"
出典 [Frontier AI Safety Commitments, AI Seoul Summit 2024](https://www.gov.uk/government/publications/frontier-ai-safety-commitments-ai-seoul-summit-2024/frontier-ai-safety-commitments-ai-seoul-summit-2024) UK Department for Science, Innovation and Technology · 2024年5月21日
**履行済み：**METRが報告。METRの一覧には2024年5月からFrontier Safety Frameworkが載っています。
[Frontier AI Safety Policies (index of published company frameworks)](https://metr.org/fsp) METR · 2026年11月10日
2026年11月10日確認 · [訂正を報告](#corrections)
履行済み[Meta](https://enterrsi.si/ja/promises/meta/)2024年5月21日
### 2025年2月のフランスでのサミットまでに、重大なリスクに関する安全フレームワークを公表する。
Meta、ソウル・コミットメントの署名企業
原文の言葉
> "publishing a safety framework focused on severe risks by the upcoming AI Summit in France"
出典 [Frontier AI Safety Commitments, AI Seoul Summit 2024](https://www.gov.uk/government/publications/frontier-ai-safety-commitments-ai-seoul-summit-2024/frontier-ai-safety-commitments-ai-seoul-summit-2024) UK Department for Science, Innovation and Technology · 2024年5月21日
**履行済み：**METRが報告。METRの一覧には2025年2月からFrontier AI Frameworkが載っています。
[Frontier AI Safety Policies (index of published company frameworks)](https://metr.org/fsp) METR · 2026年11月10日
2026年11月10日確認 · [訂正を報告](#corrections)
履行済み[Microsoft](https://enterrsi.si/ja/promises/microsoft/)2024年5月21日
### 2025年2月のフランスでのサミットまでに、重大なリスクに関する安全フレームワークを公表する。
Microsoft、ソウル・コミットメントの署名企業
原文の言葉
> "publishing a safety framework focused on severe risks by the upcoming AI Summit in France"
出典 [Frontier AI Safety Commitments, AI Seoul Summit 2024](https://www.gov.uk/government/publications/frontier-ai-safety-commitments-ai-seoul-summit-2024/frontier-ai-safety-commitments-ai-seoul-summit-2024) UK Department for Science, Innovation and Technology · 2024年5月21日
**履行済み：**METRが報告。METRの一覧には2025年2月からFrontier Governance Frameworkが載っています。
[Frontier AI Safety Policies (index of published company frameworks)](https://metr.org/fsp) METR · 2026年11月10日
2026年11月10日確認 · [訂正を報告](#corrections)
未履行[Mistral](https://enterrsi.si/ja/promises/mistral/)2024年5月21日
### 2025年2月のフランスでのサミットまでに、重大なリスクに関する安全フレームワークを公表する。
Mistral AI、ソウル・コミットメントの署名企業
原文の言葉
> "publishing a safety framework focused on severe risks by the upcoming AI Summit in France"
出典 [Frontier AI Safety Commitments, AI Seoul Summit 2024](https://www.gov.uk/government/publications/frontier-ai-safety-commitments-ai-seoul-summit-2024/frontier-ai-safety-commitments-ai-seoul-summit-2024) UK Department for Science, Innovation and Technology · 2024年5月21日
**未履行：**Future of Life Instituteが2026年7月14日に報道：Mistralは安全フレームワークを公表していません。
[AI Safety Index, Summer 2026 (full report)](https://futureoflife.org/wp-content/uploads/2026/07/AI-Safety-Index-Summer-2026-Digital-14-Jul.pdf) Future of Life Institute · 2026年7月14日
2026年11月10日確認 · [訂正を報告](#corrections)
履行済み[OpenAI](https://enterrsi.si/ja/promises/openai/)2024年5月21日
### 2025年2月のフランスでのサミットまでに、重大なリスクに関する安全フレームワークを公表する。
OpenAI、ソウル・コミットメントの署名企業
原文の言葉
> "publishing a safety framework focused on severe risks by the upcoming AI Summit in France"
出典 [Frontier AI Safety Commitments, AI Seoul Summit 2024](https://www.gov.uk/government/publications/frontier-ai-safety-commitments-ai-seoul-summit-2024/frontier-ai-safety-commitments-ai-seoul-summit-2024) UK Department for Science, Innovation and Technology · 2024年5月21日
**履行済み：**METRが報告。METRの一覧には2023年12月からPreparedness Frameworkが載っています。
[Frontier AI Safety Policies (index of published company frameworks)](https://metr.org/fsp) METR · 2026年11月10日
2026年11月10日確認 · [訂正を報告](#corrections)
履行済み[xAI](https://enterrsi.si/ja/promises/xai/)2024年5月21日
### 2025年2月のフランスでのサミットまでに、重大なリスクに関する安全フレームワークを公表する。
xAI、ソウル・コミットメントの署名企業
原文の言葉
> "publishing a safety framework focused on severe risks by the upcoming AI Summit in France"
出典 [Frontier AI Safety Commitments, AI Seoul Summit 2024](https://www.gov.uk/government/publications/frontier-ai-safety-commitments-ai-seoul-summit-2024/frontier-ai-safety-commitments-ai-seoul-summit-2024) UK Department for Science, Innovation and Technology · 2024年5月21日
**履行済み：**METRが報告。METRの一覧には2025年2月のRisk Management Framework草案と、2025年8月の最初の正式版が載っています。
[Frontier AI Safety Policies (index of published company frameworks)](https://metr.org/fsp) METR · 2026年11月10日
2026年11月10日確認 · [訂正を報告](#corrections)
未履行[Z.ai (Zhipu)](https://enterrsi.si/ja/promises/zai/)2024年5月21日
### 2025年2月のフランスでのサミットまでに、重大なリスクに関する安全フレームワークを公表する。
Zhipu.ai（現Z.ai）、ソウル・コミットメントの署名企業
原文の言葉
> "publishing a safety framework focused on severe risks by the upcoming AI Summit in France"
出典 [Frontier AI Safety Commitments, AI Seoul Summit 2024](https://www.gov.uk/government/publications/frontier-ai-safety-commitments-ai-seoul-summit-2024/frontier-ai-safety-commitments-ai-seoul-summit-2024) UK Department for Science, Innovation and Technology · 2024年5月21日
**未履行：**Future of Life Instituteが2026年7月14日に報道："The company has no published framework."
[AI Safety Index, Summer 2026 (full report)](https://futureoflife.org/wp-content/uploads/2026/07/AI-Safety-Index-Summer-2026-Digital-14-Jul.pdf) Future of Life Institute · 2026年7月14日
2026年11月10日確認 · [訂正を報告](#corrections)
進行中[Amazon](https://enterrsi.si/ja/promises/amazon/)2023年7月21日
### リリース前に社内外でモデルをテストする。
Amazon、ホワイトハウスに集まった7社の1社
原文の言葉
> "internal and external security testing of their AI systems before their release"
出典 [Fact sheet: Biden-Harris Administration secures voluntary commitments from leading artificial intelligence companies to manage the risks posed by AI](https://bidenwhitehouse.archives.gov/briefing-room/statements-releases/2023/07/21/fact-sheet-biden-harris-administration-secures-voluntary-commitments-from-leading-artificial-intelligence-companies-to-manage-the-risks-posed-by-ai) The White House (archived) · 2023年7月21日
**進行中。**Amazonの論文（2026年1月27日）に、Nova 2.0 Liteに関する独立したCBRN能力向上の研究が記されていますが、政府機関によるテストは見つかりませんでした。
2026年11月10日確認 · [訂正を報告](#corrections)
履行済み[Anthropic](https://enterrsi.si/ja/promises/anthropic/)2023年7月21日
### リリース前に社内外でモデルをテストする。
Anthropic、ホワイトハウスに集まった7社の1社
原文の言葉
> "internal and external security testing of their AI systems before their release"
出典 [Fact sheet: Biden-Harris Administration secures voluntary commitments from leading artificial intelligence companies to manage the risks posed by AI](https://bidenwhitehouse.archives.gov/briefing-room/statements-releases/2023/07/21/fact-sheet-biden-harris-administration-secures-voluntary-commitments-from-leading-artificial-intelligence-companies-to-manage-the-risks-posed-by-ai) The White House (archived) · 2023年7月21日
**履行済み：**NISTが報告。米国と英国の安全研究所が、アップグレード版Claude 3.5 Sonnetを2024年10月の公開前にテストしました。
[US AISI and UK AISI Joint Pre-Deployment Test: Anthropic's Claude 3.5 Sonnet (October 2024 Release)](https://www.nist.gov/document/us-aisi-uk-aisi-joint-testing-report-upgrade-claude-35-sonnet-111924) NIST · 2024年11月19日
2026年11月10日確認 · [訂正を報告](#corrections)
進行中[Google DeepMind](https://enterrsi.si/ja/promises/google-deepmind/)2023年7月21日
### リリース前に社内外でモデルをテストする。
Google、ホワイトハウスに集まった7社の1社
原文の言葉
> "internal and external security testing of their AI systems before their release"
出典 [Fact sheet: Biden-Harris Administration secures voluntary commitments from leading artificial intelligence companies to manage the risks posed by AI](https://bidenwhitehouse.archives.gov/briefing-room/statements-releases/2023/07/21/fact-sheet-biden-harris-administration-secures-voluntary-commitments-from-leading-artificial-intelligence-companies-to-manage-the-risks-posed-by-ai) The White House (archived) · 2023年7月21日
**進行中。**Google自身のGemini 4 Argon安全報告書（2026年10月13日）は、NIST CAISSIを含む外部テスターを挙げていますが、外部機関が独自の報告書を公表したことはありません。
2026年11月10日確認 · [訂正を報告](#corrections)
進行中[Meta](https://enterrsi.si/ja/promises/meta/)2023年7月21日
### リリース前に社内外でモデルをテストする。
Meta、ホワイトハウスに集まった7社の1社
原文の言葉
> "internal and external security testing of their AI systems before their release"
出典 [Fact sheet: Biden-Harris Administration secures voluntary commitments from leading artificial intelligence companies to manage the risks posed by AI](https://bidenwhitehouse.archives.gov/briefing-room/statements-releases/2023/07/21/fact-sheet-biden-harris-administration-secures-voluntary-commitments-from-leading-artificial-intelligence-companies-to-manage-the-risks-posed-by-ai) The White House (archived) · 2023年7月21日
**進行中。**FLIは2026年7月14日、MetaがMuse Sparkを社内で広く使う前に外部テスターを起用したと報じました。公表の権利は明記されていません。
2026年11月10日確認 · [訂正を報告](#corrections)
公開された証拠なし[Microsoft](https://enterrsi.si/ja/promises/microsoft/)2023年7月21日
### リリース前に社内外でモデルをテストする。
Microsoft、ホワイトハウスに集まった7社の1社
原文の言葉
> "internal and external security testing of their AI systems before their release"
出典 [Fact sheet: Biden-Harris Administration secures voluntary commitments from leading artificial intelligence companies to manage the risks posed by AI](https://bidenwhitehouse.archives.gov/briefing-room/statements-releases/2023/07/21/fact-sheet-biden-harris-administration-secures-voluntary-commitments-from-leading-artificial-intelligence-companies-to-manage-the-risks-posed-by-ai) The White House (archived) · 2023年7月21日
**公開された証拠なし。**MAI-Thinking-1の技術報告書（2026年6月2日）には、危険な能力を調べた外部テスターが出てきません。
2026年11月10日確認 · [訂正を報告](#corrections)
履行済み[OpenAI](https://enterrsi.si/ja/promises/openai/)2023年7月21日
### リリース前に社内外でモデルをテストする。
OpenAI、ホワイトハウスに集まった7社の1社
原文の言葉
> "internal and external security testing of their AI systems before their release"
出典 [Fact sheet: Biden-Harris Administration secures voluntary commitments from leading artificial intelligence companies to manage the risks posed by AI](https://bidenwhitehouse.archives.gov/briefing-room/statements-releases/2023/07/21/fact-sheet-biden-harris-administration-secures-voluntary-commitments-from-leading-artificial-intelligence-companies-to-manage-the-risks-posed-by-ai) The White House (archived) · 2023年7月21日
**履行済み：**英国AI Security Instituteが報告。同研究所はGPT-6 Astraを一般公開前にテストしました。
[GPT-6 Astra performs unsanctioned supply-chain attacks in simulations](https://www.aisi.gov.uk/blog/gpt-6-astra-performs-unsanctioned-supply-chain-attacks-in-simulations) UK AI Security Institute · 2026年9月28日
2026年11月10日確認 · [訂正を報告](#corrections)
未履行[OpenAI](https://enterrsi.si/ja/promises/openai/)2023年7月5日
### 計算資源の20%を、超知能を制御するためのSuperalignmentチームの研究に充てる。
OpenAI、Jan LeikeとIlya Sutskeverの投稿にて
原文の言葉
> "dedicating 20% of the compute we've secured to date over the next four years"
出典 [Introducing Superalignment](https://openai.com/index/introducing-superalignment/) OpenAI · 2023年7月5日
**未履行：**Fortuneが2024年5月21日に報道："OpenAI never fulfilled its commitment to provide the team with 20% of its computing power."
[OpenAI promised 20% of its computing power to combat the most dangerous kind of AI, but never delivered, sources say](https://fortune.com/2024/05/21/openai-superalignment-20-compute-commitment-never-fulfilled-sutskever-leike-altman-brockman-murati/) Fortune · 2024年5月21日
2026年11月10日確認 · [訂正を報告](#corrections)
撤回[Google DeepMind](https://enterrsi.si/ja/promises/google-deepmind/)2018年6月7日
### 人を傷つけることを主な目的とする兵器やその他の技術を追求しない。
Google、CEO Sundar Pichaiによる "AI at Google: our principles" にて
原文の言葉
> "Weapons or other technologies whose principal purpose or implementation is to cause or directly facilitate injury to people."
出典 [AI at Google: our principles](https://blog.google/technology/ai/ai-principles/) Google · 2018年6月7日
**撤回：**TechCrunchが2025年2月4日に報道：Googleは公表している原則から、兵器を含む "applications we will not pursue" の項目を削除しました。
[Google removes pledge to not use AI for weapons from website](https://techcrunch.com/2025/02/04/google-removes-pledge-to-not-use-ai-for-weapons-from-website/) TechCrunch · 2025年2月4日
2026年11月10日確認 · [訂正を報告](#corrections)
公開された証拠なし[OpenAI](https://enterrsi.si/ja/promises/openai/)2018年4月9日
### 安全を重視するプロジェクトが先にAGIの実現に近づいたら、競争をやめてそのプロジェクトを支援する。
OpenAI、憲章（Charter）にて
原文の言葉
> "we commit to stop competing with and start assisting this project"
出典 [OpenAI Charter](https://openai.com/charter/) OpenAI · 2018年4月9日
**公開された証拠なし。**この条項はいまも憲章のページにあり、発動されたとする公開の報告はありません。
2026年11月10日確認 · [訂正を報告](#corrections)
評価方法
## 5つのステータス、どれもソースがあるか慎重なもの
約束は一次ソースがある場合にだけ掲載します。ステータスは、信頼できる公開ソースが裏付ける最も強いもので、それより強くはしません。
ステータスの定義
### 各ステータスの意味
- 履行済み
信頼できる公開ソースが、約束が果たされたと報じています。ソースは名前と日付付きでリンクしています。
- 未履行
信頼できる公開ソースが、約束が果たされなかった、または果たされないまま期限が過ぎたと報じています。
- 撤回
信頼できる公開ソースの報道によれば、約束した当事者がその約束を削除したか、別のものに置き換えました。
- 進行中
約束は継続中か、まだ期限前で、公的な記録から取り組みが見て取れます。
- 公開された証拠なし
約束が守られた、または破られたことを示す、公開された信頼できるソースがありません。これが慎重な初期設定です。
訂正
### 誤りを見つけましたか？
各項目はソースと確認日にリンクしています。約束の抜け、誤った引用、より新しいステータスがあれば、公開ソースを[Telegram](https://t.me/enterrsitg)か[X](https://x.com/enterrsi)で送ってください。修正は公開の場で行い、新しい確認日を付けます。
[訂正を送る](https://t.me/enterrsitg)
約束トラッカーを引用する
約束トラッカー：SIラボの公開された安全上の約束。enterrsi.si、2026年11月10日確認。約束47件、ラボ11社。https://enterrsi.si/ja/promises/
enterrsi.si/promises/ へのリンクを付ければ、CC BY 4.0のもとで無料で引用できます。
[JSONをダウンロード](https://enterrsi.si/promises/promises.json)[CSVをダウンロード](https://enterrsi.si/promises/promises.csv)
埋め込み
### この集計を自分のサイトに載せる
約束の全体集計と、このページへのリンクを載せた小さなカードです。このページの更新ごとに更新されます。
```
```
広める
### 約束トラッカーを共有する
質問
## 率直な答え
約束トラッカーのしくみを4つの答えで。
### 何を約束とみなしますか？
ラボやその経営者が安全について公に示した、これからの行動に関する約束です。2023年のホワイトハウスでの自主的コミットメントや2024年のSeoul Frontier AI Safety Commitmentsのような署名済みの公開コミットメント、証言、公表されたフレームワーク、ラボ自身のページに出たものが対象です。どの約束も、その一次ソースと一緒にだけ掲載します。
### 約束が守られたかは誰が判断しますか？
このサイトではありません。履行済み、未履行、撤回は、信頼できる公開ソースが報じたときにだけ表示し、そのソースと日付を明記します。それ以外は進行中か公開された証拠なしで、迷うときは慎重なほうのステータスを使います。
### 封じ込めボードとはどう関係しますか？
[封じ込めボード](https://enterrsi.si/ja/containment-board/)は、各ラボがいま整えているものを評価します。約束トラッカーは、各ラボがやると言ったことを追います。両方のラボページは互いにリンクしています。
### 項目の誤りを直すには？
公開ソースを[Telegram](https://t.me/enterrsitg)か[X](https://x.com/enterrsi)で送ってください。修正は公開の場で行い、項目には新しい確認日が付きます。
RSIに入る
## 片方に約束、もう片方に評価
封じ込めボードは、安全フレームワークから内部告発者の方針まで、各ラボがいま整えているものを評価します。
[封じ込めボードを開く](https://enterrsi.si/ja/containment-board/)
[コントロール・マップ](https://enterrsi.si/ja/control-map/)
[パブリックコメント・デスク](https://enterrsi.si/ja/comment-desk/)