Google DeepMind 安全性成績表

B-の理由

Frontier Safety Framework 3.1（2026年4月17日）は、CBRN、サイバー、有害な操作、機械学習の研究開発、ミスアラインメントについて、警告閾値を伴うCritical Capability LevelとTracked Capability Levelを定め、重大レベルに達したモデルを展開する前に安全性ケースを求めている。同フレームワークは、軽減策が社会を守れるのは関係するすべての組織がそれを採用した場合に限られるとしており、FLIは、経営陣から独立して展開を止められる機関がどこなのかが不明確だと指摘している。

この基準におけるBの意味：主要な分野の大半を網羅し、閾値と必要なセーフガードを定めた詳細なフレームワークを公開しているが、閾値の多くが定性的である、一部のコミットメントが裁量的であるか競合他社次第である、あるいは独立した監督が限られている。

出典

1. Frontier Safety Framework, Version 3.1 Google DeepMind · 2026年4月17日
2. AI Safety Index Summer 2026, full report: Safety Frameworks domain Future of Life Institute · 2026年7月14日
3. AI Safety Index Summer 2026, full report: Key Findings and Company Progress Highlights and Key Recommendations Future of Life Institute · 2026年7月14日

B+の理由

Gemini 4 Argonはリリース前に、Facultyを含む独立したグループによってテストされた。NISTのCAISSIはサイバーと生物学的な能力および安全策を測定し、英国AISIとRedwood Researchは制御喪失のシナリオについて助言し、Gray Swanはプロンプトインジェクションをテストした。外部の所見の要約はGoogleが書いており、評価者は同社の閾値について判断していない。

この基準でのBの意味：政府機関、または直接モデルにアクセスできる複数の名前の明かされた独立した第三者がリリース前にテストし、結果とともに文書化されているが、要約は企業が書いたものであるか、アクセスの詳細が限られているか、テスト期間が短い。

出典

1. Gemini 4 Argon Safety and Security Report Google DeepMind · 2026年10月13日
2. AI Safety Index Summer 2026, full report: Pre-deployment External Safety Testing indicator Future of Life Institute · 2026年7月14日

C+の理由

フレームワークは、ガバナンス機能が残存リスクを受け入れるまで、外部展開と高リスクの社内展開を禁じ、リスクのある社内利用には思考の連鎖の監視などの安全策を適用する。開発を一時停止するという無条件の公約はなく、FLIはGoogle DeepMindを一時停止の誓約を弱めたラボの一つに挙げており、経営陣から独立して展開を止められる機関がどこなのかも不明確である。

この基準におけるCの意味：デプロイの関門のみ（リスクが緩和されるまでデプロイしない）で、開発の一時停止も制御の評価もない、または一時停止のコミットメントが「緩和策を講じつつ開発する」に置き換えられている。

出典

1. Frontier Safety Framework, Version 3.1 Google DeepMind · 2026年4月17日
2. AI Safety Index Summer 2026, full report: Internal Monitoring and Control Interventions indicator Future of Life Institute · 2026年7月14日
3. AI Safety Index Summer 2026, full report: Key Findings and Company Progress Highlights and Key Recommendations Future of Life Institute · 2026年7月14日

Bの理由

Gemini 4 Argonのモデルカードと安全性報告書は、重大なサイバーおよび生物学的レベルを排除できないと述べており、フレームワークは、重大レベルが軽減されていない公共のリスクをもたらす場合、Googleは政府に通知することを目指すとしている。公開されたインシデントの詳細報告は見つからず、FLIが引用する最新の悪用に関する報告は2025年1月のものである。

この基準でのBの意味：詳細なシステムカードと明示されたインシデント対応手続きがあるが、インシデントの詳細報告がない、開示が遅い、要約のみといった欠落がある。

出典

1. Gemini 4 Argon Model Card Google DeepMind · 2026年10月13日
2. Gemini 4 Argon Safety and Security Report Google DeepMind · 2026年10月13日
3. Frontier Safety Framework, Version 3.1 Google DeepMind · 2026年4月17日
4. AI Safety Index Summer 2026, full report: Serious Incident Reporting and Government Notifications indicator Future of Life Institute · 2026年7月14日

Cの理由

安全性に関する懸念に特化した公開ポリシーはない。Googleの行動規範（2026年7月16日更新）は、ヘルプライン、取締役会の監査委員会への匿名報告、報復禁止の規則を定めている。FLIは、Googleの従業員が報復を主張して2025年と2026年に起こした審判や訴訟を記録しているが、Googleはこれを争っており、うち1件は棄却された。

この基準におけるCの意味：報告窓口と報復禁止の文言を含む一般的な企業行動規範またはフレームワークの条項しかない、あるいはBレベルの方針が、信頼できる最近の論争によって評価を下げている。

出典

1. Google Code of Conduct Alphabet · 2026年7月16日
2. AI Safety Index Summer 2026, full report: Whistleblowing Protection indicators and Reporting Culture and Whistleblowing Track Record Future of Life Institute · 2026年7月14日