約束トラッカー

重みを公開する前に、サイバーセキュリティの第一人者、パートナー、国の機関とともにモデルのレッドチーミングを行う。

Mistral AI、Mistral Large 4の発表にて

原文の言葉

"we are red-teaming the model in real-world settings with cybersecurity leaders, vetted partners, and state authorities"

出典 Introducing Mistral Large 4 Mistral AI · 2026年10月6日

緩和策でリスクが下がるという強い証拠がないまま、高リスクのモデルを外部に公開しない。

Meta、Superintelligence Scaling Framework 2.1

原文の言葉

"we will not deploy the model externally unless we have strong additional evidence"

出典 Meta Superintelligence Scaling Framework, Version 2.1 Meta · 2026年10月2日

Critical Capability Threshold（重大能力閾値）に達したモデルは、安全策がリスクを緩和するまで展開しない。

Amazon、Frontier Model Safety Framework

原文の言葉

"we will not deploy the model until safeguards appropriately mitigate the risks."

出典 Amazon's Frontier Model Safety Framework (September 2026) Amazon · 2026年9月17日

最も高性能なフロンティアモデルの安全評価報告書を公表する。

Amazon、Frontier Model Safety Framework

原文の言葉

"we publish safety evaluation reports for our most capable frontier models"

出典 Amazon's Frontier Model Safety Framework (September 2026) Amazon · 2026年9月17日

展開済みモデルのリスク報告書を公表し、Long-Term Benefit Trustが求めたときは外部のレビュアーに確認させる。

Anthropic、Responsible Scaling Policy 3.4

当サイトによる要約

出典 Anthropic's Responsible Scaling Policy Anthropic · 2026年7月8日

インシデント報告書の写しを当局に送る。

xAI、Frontier Artificial Intelligence Framework

原文の言葉

"will provide the relevant authorities with a copy of the incident report"

出典 xAI Frontier Artificial Intelligence Framework xAI · 2026年6月30日

Critical Capability Level（重大能力レベル）に達したモデルは、展開前に安全性の論証で裏付ける。

Google DeepMind、Frontier Safety Framework 3.1

原文の言葉

"Where the model has reached a CCL, the residual risk assessment will be supplemented with a safety case."

出典 Frontier Safety Framework, Version 3.1 Google DeepMind · 2026年4月17日

リスクを十分に緩和できないモデルは、開発と展開を一時停止する。

Microsoft、Frontier Governance Framework

原文の言葉

"we will pause development and deployment until the point at which mitigation practices evolve to meet the risk"

出典 Frontier Governance Framework (February 2026) Microsoft · 2026年2月13日

対象となる各モデルの評価結果とリスク分類を公表する。

Microsoft、Frontier Governance Framework

原文の言葉

"relevant evaluations, and the model's risk classification will be shared publicly"

出典 Frontier Governance Framework (February 2026) Microsoft · 2026年2月13日

人間が主導権を保てる範囲の中でのみ超知能をつくる。

Mustafa Suleyman、Microsoft AI CEO

原文の言葉

"we are not building a superintelligence at any cost, with no limits"

出典 Towards Humanist Superintelligence Microsoft AI · 2025年11月6日

最も高性能なモデルについて、EU General-Purpose AI Code of Practiceの安全とセキュリティ（Safety and Security）の章に従う。

Amazon、EU Code of Practiceの署名企業

当サイトによる要約

出典 The General-Purpose AI Code of Practice: signatories European Commission · 2026年10月7日

最も高性能なモデルについて、EU General-Purpose AI Code of Practiceの安全とセキュリティ（Safety and Security）の章に従う。

Anthropic、EU Code of Practiceの署名企業

当サイトによる要約

出典 The General-Purpose AI Code of Practice: signatories European Commission · 2026年10月7日

最も高性能なモデルについて、EU General-Purpose AI Code of Practiceの安全とセキュリティ（Safety and Security）の章に従う。

Google、EU Code of Practiceの署名企業

当サイトによる要約

出典 The General-Purpose AI Code of Practice: signatories European Commission · 2026年10月7日

最も高性能なモデルについて、EU General-Purpose AI Code of Practiceの安全とセキュリティ（Safety and Security）の章に従う。

Microsoft、EU Code of Practiceの署名企業

当サイトによる要約

出典 The General-Purpose AI Code of Practice: signatories European Commission · 2026年10月7日

最も高性能なモデルについて、EU General-Purpose AI Code of Practiceの安全とセキュリティ（Safety and Security）の章に従う。

Mistral AI、EU Code of Practiceの署名企業

当サイトによる要約

出典 The General-Purpose AI Code of Practice: signatories European Commission · 2026年10月7日

最も高性能なモデルについて、EU General-Purpose AI Code of Practiceの安全とセキュリティ（Safety and Security）の章に従う。

OpenAI、EU Code of Practiceの署名企業

当サイトによる要約

出典 The General-Purpose AI Code of Practice: signatories European Commission · 2026年10月7日

最も高性能なモデルについて、EU General-Purpose AI Code of Practiceの安全とセキュリティ（Safety and Security）の章に従う。

xAI、EU Code of Practiceの署名企業

当サイトによる要約

出典 The General-Purpose AI Code of Practice: signatories European Commission · 2026年10月7日

超知能のリスクに厳格に向き合い、Metaがオープンソースにするものには慎重を期す。

Mark Zuckerberg、Meta CEO

原文の言葉

"We'll need to be rigorous about mitigating these risks and careful about what we choose to open source."

出典 Personal Superintelligence Meta · 2025年7月30日

モデルがCriticalの能力に達したら、それに見合う安全策ができるまで開発を止める。

OpenAI、Preparedness Frameworkバージョン2

原文の言葉

"Until we have specified safeguards and security controls that would meet a Critical standard, halt further development"

出典 Preparedness Framework, Version 2 OpenAI · 2025年4月15日

2025年2月の草案から3か月以内に、改訂した安全フレームワークを公表する。

xAI、Risk Management Frameworkの草案にて

原文の言葉

"We plan to release an updated version of this policy within three months."

出典 xAI Risk Management Framework (Draft) xAI · 2025年2月10日

リスクを緩和できない場合、重大リスクの閾値に達したモデルの開発を止める。

Meta、Frontier AI Framework

原文の言葉

"If a frontier AI is assessed to have reached the critical risk threshold and cannot be mitigated, we will stop development"

出典 Frontier AI Framework Meta · 2025年2月3日

安全とセキュリティのガバナンス措置を公開する。

Alibaba、中国の人工知能安全コミットメントの署名企業

原文の言葉

"Proactively disclose safety and security governance measures"

出典 Artificial Intelligence Safety Commitments China AI Industry Alliance (AIIA) and CAICT · 2024年12月1日

リリースや更新のたびに、その前にモデルのレッドチーミングと厳格なテストを行う。

Alibaba、中国の人工知能安全コミットメントの署名企業

原文の言葉

"Through dedicated simulation and red-teaming experts to rigorously test AI models prior to their release or update"

出典 Artificial Intelligence Safety Commitments China AI Industry Alliance (AIIA) and CAICT · 2024年12月1日

安全とセキュリティのガバナンス措置を公開する。

DeepSeek、中国の人工知能安全コミットメントの署名企業

原文の言葉

"Proactively disclose safety and security governance measures"

出典 Artificial Intelligence Safety Commitments China AI Industry Alliance (AIIA) and CAICT · 2024年12月1日

リリースや更新のたびに、その前にモデルのレッドチーミングと厳格なテストを行う。

DeepSeek、中国の人工知能安全コミットメントの署名企業

原文の言葉

"Through dedicated simulation and red-teaming experts to rigorously test AI models prior to their release or update"

出典 Artificial Intelligence Safety Commitments China AI Industry Alliance (AIIA) and CAICT · 2024年12月1日

安全とセキュリティのガバナンス措置を公開する。

Zhipu（北京智譜華章科技）、中国の人工知能安全コミットメントの署名企業

原文の言葉

"Proactively disclose safety and security governance measures"

出典 Artificial Intelligence Safety Commitments China AI Industry Alliance (AIIA) and CAICT · 2024年12月1日

リリースや更新のたびに、その前にモデルのレッドチーミングと厳格なテストを行う。

Zhipu（北京智譜華章科技）、中国の人工知能安全コミットメントの署名企業

原文の言葉

"Through dedicated simulation and red-teaming experts to rigorously test AI models prior to their release or update"

出典 Artificial Intelligence Safety Commitments China AI Industry Alliance (AIIA) and CAICT · 2024年12月1日

主要な新モデルの一般公開の前後に、米国AI Safety Instituteにアクセスを認める。

Anthropic、米国AI Safety Instituteとの合意

原文の言葉

"access to major new models from each company prior to and following their public release"

出典 U.S. AI Safety Institute signs agreements regarding AI safety research, testing and evaluation with Anthropic and OpenAI NIST · 2024年8月29日

主要な新モデルの一般公開の前後に、米国AI Safety Instituteにアクセスを認める。

OpenAI、米国AI Safety Instituteとの合意

原文の言葉

"access to major new models from each company prior to and following their public release"

出典 U.S. AI Safety Institute signs agreements regarding AI safety research, testing and evaluation with Anthropic and OpenAI NIST · 2024年8月29日

2025年2月のフランスでのサミットまでに、重大なリスクに関する安全フレームワークを公表する。

Amazon、ソウル・コミットメントの署名企業

原文の言葉

"publishing a safety framework focused on severe risks by the upcoming AI Summit in France"

出典 Frontier AI Safety Commitments, AI Seoul Summit 2024 UK Department for Science, Innovation and Technology · 2024年5月21日

2025年2月のフランスでのサミットまでに、重大なリスクに関する安全フレームワークを公表する。

Anthropic、ソウル・コミットメントの署名企業

原文の言葉

"publishing a safety framework focused on severe risks by the upcoming AI Summit in France"

出典 Frontier AI Safety Commitments, AI Seoul Summit 2024 UK Department for Science, Innovation and Technology · 2024年5月21日

2025年2月のフランスでのサミットまでに、重大なリスクに関する安全フレームワークを公表する。

Google、ソウル・コミットメントの署名企業

原文の言葉

"publishing a safety framework focused on severe risks by the upcoming AI Summit in France"

出典 Frontier AI Safety Commitments, AI Seoul Summit 2024 UK Department for Science, Innovation and Technology · 2024年5月21日

2025年2月のフランスでのサミットまでに、重大なリスクに関する安全フレームワークを公表する。

Meta、ソウル・コミットメントの署名企業

原文の言葉

"publishing a safety framework focused on severe risks by the upcoming AI Summit in France"

出典 Frontier AI Safety Commitments, AI Seoul Summit 2024 UK Department for Science, Innovation and Technology · 2024年5月21日

2025年2月のフランスでのサミットまでに、重大なリスクに関する安全フレームワークを公表する。

Microsoft、ソウル・コミットメントの署名企業

原文の言葉

"publishing a safety framework focused on severe risks by the upcoming AI Summit in France"

出典 Frontier AI Safety Commitments, AI Seoul Summit 2024 UK Department for Science, Innovation and Technology · 2024年5月21日

2025年2月のフランスでのサミットまでに、重大なリスクに関する安全フレームワークを公表する。

Mistral AI、ソウル・コミットメントの署名企業

原文の言葉

"publishing a safety framework focused on severe risks by the upcoming AI Summit in France"

出典 Frontier AI Safety Commitments, AI Seoul Summit 2024 UK Department for Science, Innovation and Technology · 2024年5月21日

2025年2月のフランスでのサミットまでに、重大なリスクに関する安全フレームワークを公表する。

OpenAI、ソウル・コミットメントの署名企業

原文の言葉

"publishing a safety framework focused on severe risks by the upcoming AI Summit in France"

出典 Frontier AI Safety Commitments, AI Seoul Summit 2024 UK Department for Science, Innovation and Technology · 2024年5月21日

2025年2月のフランスでのサミットまでに、重大なリスクに関する安全フレームワークを公表する。

xAI、ソウル・コミットメントの署名企業

原文の言葉

"publishing a safety framework focused on severe risks by the upcoming AI Summit in France"

出典 Frontier AI Safety Commitments, AI Seoul Summit 2024 UK Department for Science, Innovation and Technology · 2024年5月21日

2025年2月のフランスでのサミットまでに、重大なリスクに関する安全フレームワークを公表する。

Zhipu.ai（現Z.ai）、ソウル・コミットメントの署名企業

原文の言葉

"publishing a safety framework focused on severe risks by the upcoming AI Summit in France"

出典 Frontier AI Safety Commitments, AI Seoul Summit 2024 UK Department for Science, Innovation and Technology · 2024年5月21日

リリース前に社内外でモデルをテストする。

Amazon、ホワイトハウスに集まった7社の1社

原文の言葉

"internal and external security testing of their AI systems before their release"

出典 Fact sheet: Biden-Harris Administration secures voluntary commitments from leading artificial intelligence companies to manage the risks posed by AI The White House (archived) · 2023年7月21日

リリース前に社内外でモデルをテストする。

Anthropic、ホワイトハウスに集まった7社の1社

原文の言葉

"internal and external security testing of their AI systems before their release"

出典 Fact sheet: Biden-Harris Administration secures voluntary commitments from leading artificial intelligence companies to manage the risks posed by AI The White House (archived) · 2023年7月21日

リリース前に社内外でモデルをテストする。

Google、ホワイトハウスに集まった7社の1社

原文の言葉

"internal and external security testing of their AI systems before their release"

出典 Fact sheet: Biden-Harris Administration secures voluntary commitments from leading artificial intelligence companies to manage the risks posed by AI The White House (archived) · 2023年7月21日

リリース前に社内外でモデルをテストする。

Meta、ホワイトハウスに集まった7社の1社

原文の言葉

"internal and external security testing of their AI systems before their release"

出典 Fact sheet: Biden-Harris Administration secures voluntary commitments from leading artificial intelligence companies to manage the risks posed by AI The White House (archived) · 2023年7月21日

リリース前に社内外でモデルをテストする。

Microsoft、ホワイトハウスに集まった7社の1社

原文の言葉

"internal and external security testing of their AI systems before their release"

出典 Fact sheet: Biden-Harris Administration secures voluntary commitments from leading artificial intelligence companies to manage the risks posed by AI The White House (archived) · 2023年7月21日

リリース前に社内外でモデルをテストする。

OpenAI、ホワイトハウスに集まった7社の1社

原文の言葉

"internal and external security testing of their AI systems before their release"

出典 Fact sheet: Biden-Harris Administration secures voluntary commitments from leading artificial intelligence companies to manage the risks posed by AI The White House (archived) · 2023年7月21日

計算資源の20%を、超知能を制御するためのSuperalignmentチームの研究に充てる。

OpenAI、Jan LeikeとIlya Sutskeverの投稿にて

原文の言葉

"dedicating 20% of the compute we've secured to date over the next four years"

出典 Introducing Superalignment OpenAI · 2023年7月5日

人を傷つけることを主な目的とする兵器やその他の技術を追求しない。

Google、CEO Sundar Pichaiによる "AI at Google: our principles" にて

原文の言葉

"Weapons or other technologies whose principal purpose or implementation is to cause or directly facilitate injury to people."

出典 AI at Google: our principles Google · 2018年6月7日

安全を重視するプロジェクトが先にAGIの実現に近づいたら、競争をやめてそのプロジェクトを支援する。

OpenAI、憲章（Charter）にて

原文の言葉

"we commit to stop competing with and start assisting this project"

出典 OpenAI Charter OpenAI · 2018年4月9日