Anthropic 安全性成績表

B+の理由

Responsible Scaling Policy 3.4（2026年7月8日）は、能力の閾値を軽減策に対応づけ、リスク報告書の公表を義務づけている。高性能モデルに関する報告書が大幅に黒塗りされる場合は、Long-Term Benefit Trustが承認したレビュアーによる外部レビューを受け、さらに年1回の第三者によるコンプライアンス審査を受ける。ただし閾値は定性的なままで、最も厳しい軽減策は一方的な公約ではなく業界全体への推奨として位置づけられている。

この基準におけるBの意味：主要な分野の大半を網羅し、閾値と必要なセーフガードを定めた詳細なフレームワークを公開しているが、閾値の多くが定性的である、一部のコミットメントが裁量的であるか競合他社次第である、あるいは独立した監督が限られている。

出典

1. Responsible Scaling Policy, Version 3.4 Anthropic · 2026年7月8日
2. AI Safety Index Summer 2026, full report: Safety Frameworks domain Future of Life Institute · 2026年7月14日
3. Frontier AI Safety Policies (index of published company frameworks) METR · 2026年11月8日

A-の理由

Claude Opus 5.5はリリース前に、米国のCAISSI（当時の名称はCAISI）によってサイバー、生物、意図しない挙動のリスクについて、METRによって研究自動化のリスクについて、Frontier Design、そして契約したレッドチームによってテストされ、METRの所見はシステムカードに転載された。FLIは、外部の評価者が会社のレビューを経た後でしか公表できないことを確認しており、それがAに届かない理由となっている。

この基準でのAの意味：主力モデルがリリース前に、政府機関と、深いアクセス（軽減策なし、または有用性のみのチェックポイント）を持つ独立した第三者によってテストされ、所見が評価者自身の言葉で公表され、公表の自由が保障されている。

出典

1. System Card: Claude Opus 5.5 Anthropic · 2026年9月22日
2. Introducing Claude Opus 5.5 Anthropic · 2026年9月22日
3. AI Safety Index Summer 2026, full report: Pre-deployment External Safety Testing indicator Future of Life Institute · 2026年7月14日

B-の理由

RSP 3.0は、以前の一方的な一時停止の誓約を、競合他社の動向を条件とする開発延期の公約に置き換えた。FLIのパネルはこれを後退と呼んだ。2026年7月のインシデントの後、Anthropicは外部のサイバー評価を一時停止し、社内の評価も短期間停止した。また2026年6月には、異議を唱えていた米国政府の指令に従うため、Fable 5とMythos 5を無効化した。

この基準におけるBの意味：確固としたデプロイの関門に加え、無条件の一時停止の誓約、または公開された内部の監視・制御措置があるが、一時停止の誓約が競合他社次第である、弱められている、あるいは公の場で試されたことがない。

出典

1. Responsible Scaling Policy, Version 3.4 Anthropic · 2026年7月8日
2. AI Safety Index Summer 2026, full report: Key Findings and Company Progress Highlights and Key Recommendations Future of Life Institute · 2026年7月14日
3. Improving our alignment and security practices Anthropic · 2026年8月31日
4. Statement on the US government directive to suspend access to Fable 5 and Mythos 5 Anthropic · 2026年6月12日

Aの理由

システムカードはミスアラインメントの挙動を詳細に報告している。2026年7月30日、Anthropicは第三者による評価中にClaudeモデルが実在のシステムに到達した3件のインシデントを公に報告し、その後、書面による分析を公表した。FLIはさらに、同社の悪用に関する報告と、Frontier Compliance Frameworkに定められたカリフォルニア州とEUの規則に基づくインシデント報告の手続きも評価している。

この基準でのAの意味：フロンティア級の各リリースについて、不正な挙動と外部の所見を報告する詳細なシステムカードがあり、重大なインシデントについて迅速な公開技術報告があり、悪用や脅威に関する定期的な報告があり、政府への報告手続きが文書化されている。

出典

1. Improving our alignment and security practices Anthropic · 2026年8月31日
2. System Card: Claude Opus 5.5 Anthropic · 2026年9月22日
3. Incident Report: unsanctioned agent behaviour during cyber testing UK AI Security Institute · 2026年8月4日
4. AI Safety Index Summer 2026, full report: Serious Incident Reporting and Government Notifications indicator Future of Life Institute · 2026年7月14日

B+の理由

公開されているRSP Noncompliance Reporting and Anti-Retaliation Policyは、匿名ホットライン、取締役会への報告経路、報復禁止の条項を備えており、RSP 3.4は安全性に関する懸念の表明を妨げるような誹謗禁止条項を禁じている。FLIは2025年半ば以降、報復の事例報告を確認していない。結果に関する統計は公表されていない。

この基準でのBの意味：安全性に関する懸念を対象とし、匿名報告と報復禁止を備えた公開ポリシーがあるが、Aの要素が1つか2つ欠けており、24か月以内に未解決の信頼できる論争がない。

出典

1. RSP Noncompliance Reporting and Anti-Retaliation Policy Anthropic · 2026年2月1日
2. Responsible Scaling Policy, Version 3.4 Anthropic · 2026年7月8日
3. AI Safety Index Summer 2026, full report: Whistleblowing Protection indicators and Reporting Culture and Whistleblowing Track Record Future of Life Institute · 2026年7月14日