Anthropic 安全上の約束

展開済みモデルのリスク報告書を公表し、Long-Term Benefit Trustが求めたときは外部のレビュアーに確認させる。

Anthropic、Responsible Scaling Policy 3.4

当サイトによる要約

出典 Anthropic's Responsible Scaling Policy Anthropic · 2026年7月8日

最も高性能なモデルについて、EU General-Purpose AI Code of Practiceの安全とセキュリティ（Safety and Security）の章に従う。

Anthropic、EU Code of Practiceの署名企業

当サイトによる要約

出典 The General-Purpose AI Code of Practice: signatories European Commission · 2026年10月7日

主要な新モデルの一般公開の前後に、米国AI Safety Instituteにアクセスを認める。

Anthropic、米国AI Safety Instituteとの合意

原文の言葉

"access to major new models from each company prior to and following their public release"

出典 U.S. AI Safety Institute signs agreements regarding AI safety research, testing and evaluation with Anthropic and OpenAI NIST · 2024年8月29日

2025年2月のフランスでのサミットまでに、重大なリスクに関する安全フレームワークを公表する。

Anthropic、ソウル・コミットメントの署名企業

原文の言葉

"publishing a safety framework focused on severe risks by the upcoming AI Summit in France"

出典 Frontier AI Safety Commitments, AI Seoul Summit 2024 UK Department for Science, Innovation and Technology · 2024年5月21日

リリース前に社内外でモデルをテストする。

Anthropic、ホワイトハウスに集まった7社の1社

原文の言葉

"internal and external security testing of their AI systems before their release"

出典 Fact sheet: Biden-Harris Administration secures voluntary commitments from leading artificial intelligence companies to manage the risks posed by AI The White House (archived) · 2023年7月21日