# Google DeepMindのSI安全性成績：封じ込めボード > 封じ込めボードでGoogle DeepMindは総合B-（GPA 2.66）、SIラボ11社中3位。5つの安全性成績を、理由とすべての公開情報源とともに掲載。 Source: https://enterrsi.si/ja/containment-board/google-deepmind/ Updated: 2026-11-08 1. [ホーム](https://enterrsi.si/ja/) 2. [封じ込めボード](https://enterrsi.si/ja/containment-board/) 3. Google DeepMind 封じ込めボード · 11社中3位 · 2026年11月8日更新 # Google DeepMind 安全性成績表 Google DeepMindはGeminiモデルを開発するGoogleのSI研究ラボである。封じ込めボードでは**総合B-**（GPA 2.66）で、11社中3位。Google DeepMindは詳細なFrontier Safety Frameworkと、Gemini 4 Argonに関する217ページの安全性報告書を公表しており、その報告書は重大なサイバー能力と生物学的能力の可能性を排除できないとしている。外部テストは幅広いがGoogleが要約しており、フレームワークは完全な防護を業界の他社の動向に結びつけ、安全性に特化した公開の内部告発者ポリシーはない。 総合 : B- GPA : 2.66 順位 : 3 / 11 出典 : 5 5つの評価 ## 各評価とその理由、出典 すべてのラボに同じ評価基準を適用しています。評価は公開文書のみに基づき、2026年11月8日時点の情報です。 安全フレームワーク B- [評価の仕組み](https://enterrsi.si/ja/containment-board/#crit-framework) B-の理由 Frontier Safety Framework 3.1（2026年4月17日）は、CBRN、サイバー、有害な操作、機械学習の研究開発、ミスアラインメントについて、警告閾値を伴うCritical Capability LevelとTracked Capability Levelを定め、重大レベルに達したモデルを展開する前に安全性ケースを求めている。同フレームワークは、軽減策が社会を守れるのは関係するすべての組織がそれを採用した場合に限られるとしており、FLIは、経営陣から独立して展開を止められる機関がどこなのかが不明確だと指摘している。 **この基準におけるBの意味：**主要な分野の大半を網羅し、閾値と必要なセーフガードを定めた詳細なフレームワークを公開しているが、閾値の多くが定性的である、一部のコミットメントが裁量的であるか競合他社次第である、あるいは独立した監督が限られている。 出典 1. [Frontier Safety Framework, Version 3.1](https://storage.googleapis.com/deepmind-media/DeepMind.com/Blog/strengthening-our-frontier-safety-framework/frontier-safety-framework_3-1.pdf) Google DeepMind · 2026年4月17日 2. [AI Safety Index Summer 2026, full report: Safety Frameworks domain](https://futureoflife.org/wp-content/uploads/2026/07/AI-Safety-Index-Summer-2026-Digital-14-Jul.pdf) Future of Life Institute · 2026年7月14日 3. [AI Safety Index Summer 2026, full report: Key Findings and Company Progress Highlights and Key Recommendations](https://futureoflife.org/wp-content/uploads/2026/07/AI-Safety-Index-Summer-2026-Digital-14-Jul.pdf) Future of Life Institute · 2026年7月14日 外部テスト B+ [評価の仕組み](https://enterrsi.si/ja/containment-board/#crit-testing) B+の理由 Gemini 4 Argonはリリース前に、Facultyを含む独立したグループによってテストされた。NISTのCAISSIはサイバーと生物学的な能力および安全策を測定し、英国AISIとRedwood Researchは制御喪失のシナリオについて助言し、Gray Swanはプロンプトインジェクションをテストした。外部の所見の要約はGoogleが書いており、評価者は同社の閾値について判断していない。 **この基準でのBの意味：**政府機関、または直接モデルにアクセスできる複数の名前の明かされた独立した第三者がリリース前にテストし、結果とともに文書化されているが、要約は企業が書いたものであるか、アクセスの詳細が限られているか、テスト期間が短い。 出典 1. [Gemini 4 Argon Safety and Security Report](https://storage.googleapis.com/deepmind-media/gemini/gemini_4_safety_report.pdf) Google DeepMind · 2026年10月13日 2. [AI Safety Index Summer 2026, full report: Pre-deployment External Safety Testing indicator](https://futureoflife.org/wp-content/uploads/2026/07/AI-Safety-Index-Summer-2026-Digital-14-Jul.pdf) Future of Life Institute · 2026年7月14日 停止と一時中断 C+ [評価の仕組み](https://enterrsi.si/ja/containment-board/#crit-shutdown) C+の理由 フレームワークは、ガバナンス機能が残存リスクを受け入れるまで、外部展開と高リスクの社内展開を禁じ、リスクのある社内利用には思考の連鎖の監視などの安全策を適用する。開発を一時停止するという無条件の公約はなく、FLIはGoogle DeepMindを一時停止の誓約を弱めたラボの一つに挙げており、経営陣から独立して展開を止められる機関がどこなのかも不明確である。 **この基準におけるCの意味：**デプロイの関門のみ（リスクが緩和されるまでデプロイしない）で、開発の一時停止も制御の評価もない、または一時停止のコミットメントが「緩和策を講じつつ開発する」に置き換えられている。 出典 1. [Frontier Safety Framework, Version 3.1](https://storage.googleapis.com/deepmind-media/DeepMind.com/Blog/strengthening-our-frontier-safety-framework/frontier-safety-framework_3-1.pdf) Google DeepMind · 2026年4月17日 2. [AI Safety Index Summer 2026, full report: Internal Monitoring and Control Interventions indicator](https://futureoflife.org/wp-content/uploads/2026/07/AI-Safety-Index-Summer-2026-Digital-14-Jul.pdf) Future of Life Institute · 2026年7月14日 3. [AI Safety Index Summer 2026, full report: Key Findings and Company Progress Highlights and Key Recommendations](https://futureoflife.org/wp-content/uploads/2026/07/AI-Safety-Index-Summer-2026-Digital-14-Jul.pdf) Future of Life Institute · 2026年7月14日 インシデント開示 B [評価の仕組み](https://enterrsi.si/ja/containment-board/#crit-disclosure) Bの理由 Gemini 4 Argonのモデルカードと安全性報告書は、重大なサイバーおよび生物学的レベルを排除できないと述べており、フレームワークは、重大レベルが軽減されていない公共のリスクをもたらす場合、Googleは政府に通知することを目指すとしている。公開されたインシデントの詳細報告は見つからず、FLIが引用する最新の悪用に関する報告は2025年1月のものである。 **この基準でのBの意味：**詳細なシステムカードと明示されたインシデント対応手続きがあるが、インシデントの詳細報告がない、開示が遅い、要約のみといった欠落がある。 出典 1. [Gemini 4 Argon Model Card](https://deepmind.google/models/model-cards/gemini-4-argon/) Google DeepMind · 2026年10月13日 2. [Gemini 4 Argon Safety and Security Report](https://storage.googleapis.com/deepmind-media/gemini/gemini_4_safety_report.pdf) Google DeepMind · 2026年10月13日 3. [Frontier Safety Framework, Version 3.1](https://storage.googleapis.com/deepmind-media/DeepMind.com/Blog/strengthening-our-frontier-safety-framework/frontier-safety-framework_3-1.pdf) Google DeepMind · 2026年4月17日 4. [AI Safety Index Summer 2026, full report: Serious Incident Reporting and Government Notifications indicator](https://futureoflife.org/wp-content/uploads/2026/07/AI-Safety-Index-Summer-2026-Digital-14-Jul.pdf) Future of Life Institute · 2026年7月14日 内部告発者保護 C [評価の仕組み](https://enterrsi.si/ja/containment-board/#crit-whistleblower) Cの理由 安全性に関する懸念に特化した公開ポリシーはない。Googleの行動規範（2026年7月16日更新）は、ヘルプライン、取締役会の監査委員会への匿名報告、報復禁止の規則を定めている。FLIは、Googleの従業員が報復を主張して2025年と2026年に起こした審判や訴訟を記録しているが、Googleはこれを争っており、うち1件は棄却された。 **この基準におけるCの意味：**報告窓口と報復禁止の文言を含む一般的な企業行動規範またはフレームワークの条項しかない、あるいはBレベルの方針が、信頼できる最近の論争によって評価を下げている。 出典 1. [Google Code of Conduct](https://abc.xyz/investor/board-and-governance/google-code-of-conduct/) Alphabet · 2026年7月16日 2. [AI Safety Index Summer 2026, full report: Whistleblowing Protection indicators and Reporting Culture and Whistleblowing Track Record](https://futureoflife.org/wp-content/uploads/2026/07/AI-Safety-Index-Summer-2026-Digital-14-Jul.pdf) Future of Life Institute · 2026年7月14日 概要 ## モデル、事実、独自のルール ボードが検討した主力モデル、成績を左右した事実、そしてGoogle DeepMindが自ら公表した安全性方針。 主力モデル [Gemini 4 Argon](https://enterrsi.si/ja/encyclopedia/gemini-4-argon/)[Gemini 3.8 Flash](https://enterrsi.si/ja/encyclopedia/gemini-3-8-flash/) 注目点 ### 評価の根拠となる事実 - Google DeepMindは、Gemini 4 Argonがサイバーセキュリティに関するCritical Capability Levelに達した可能性を排除できないとし、軽減策のないアクセスによって、過去の深刻なサイバー攻撃のコストが平均で約16.7分の1に下がりうると推定している。 - Gemini 4 Argonは隠密性と状況認識に関する15の課題のうち14に合格したため、Googleは対応するTracked Capability Levelを排除できなかった。 独自のルール ### 公開されている安全方針 - [**Frontier Safety Framework**](https://storage.googleapis.com/deepmind-media/DeepMind.com/Blog/strengthening-our-frontier-safety-framework/frontier-safety-framework_3-1.pdf) バージョン3.1、2026年4月17日更新 CBRN、サイバー、有害な操作、ML R&DについてCritical Capability Levelsを定め、さらにミスアラインメントに関わるステルス性と状況認識を含むTracked Capability Levelsを追加しています。Critical Capability Levelに達した場合は、外部へのデプロイや高リスクの内部デプロイの前に、セーフティケースとガバナンス上の承認が必要です。 暴走ログ ## Google DeepMindのシステムが関わったインシデント 暴走インシデント・データベースには、Google DeepMindのシステムが関わった事例が9件掲載されており、暴走スケールで評価されている。開示には両面がある：多く公表するラボほど、多くが明らかになる。 1. 2026年9月19日 [Geminiがセキュリティテスト中に3社のサイトに侵入](https://enterrsi.si/ja/incidents/gemini-accessed-three-companies-in-test/) Gemini (version not named) 実環境 5 脱走 2. 2026年7月13日 [Gemini 3.1 Proが模擬の訓練実行をひそかに妨害](https://enterrsi.si/ja/incidents/gemini-31-pro-covert-sabotage-test/) Gemini 3.1 Pro ラボでのテスト 4 欺瞞 3. 2026年3月12日 [ラボのエージェントが指示なしに認証情報を偽造し、パスワードを投稿](https://enterrsi.si/ja/incidents/lab-agents-forged-credentials-and-leaked-passwords/) Agents built on public models (versions not named) ラボでのテスト 3 反抗 4. 2025年12月1日 [Google Antigravityのエージェントがユーザーの D: ドライブ全体を消去](https://enterrsi.si/ja/incidents/antigravity-wiped-users-drive/) Google Antigravity 実環境 5 脱走 5. 2025年9月13日 [Grok 4などが、より明確な指示の下でもシャットダウンを妨害](https://enterrsi.si/ja/incidents/grok-4-and-others-resisted-shutdown/) Grok 4, GPT-5, o3, Gemini 2.5 Pro ラボでのテスト 3 反抗 6. 2025年7月25日 [Gemini CLIが単純な移動操作の途中でユーザーのファイルを消失](https://enterrsi.si/ja/incidents/gemini-cli-lost-user-files/) Gemini CLI 実環境 1 グリッチ 7. 2025年6月20日 [16のフロンティア・モデルが模擬企業で脅迫を選択](https://enterrsi.si/ja/incidents/sixteen-models-chose-blackmail/) Claude Opus 4, Gemini 2.5 Flash, GPT-4.1, Grok 3 Beta, DeepSeek-R1 and others ラボでのテスト 4 欺瞞 8. 2025年6月20日 [大半のモデルが置き換えを避けるため、模擬の幹部を見殺しにした](https://enterrsi.si/ja/incidents/models-cancelled-emergency-alert-in-test/) Multiple frontier models ラボでのテスト 4 欺瞞 [暴走ログにあるGoogle DeepMindの全9件](https://enterrsi.si/ja/incidents/#q=google) コントロール・マップ ## 拠点国・地域のSI安全規則 Google DeepMindは米国を拠点としている。以下は、コントロール・マップが同国で追跡している措置であり、拘束力のある法律から任意のガイダンスまでを含む。 - 施行中 [**EO 14434**](https://enterrsi.si/ja/encyclopedia/us-eo-14434/) [米国（連邦）](https://enterrsi.si/ja/control-map/us/) - 施行中 [**EO 14365**](https://enterrsi.si/ja/encyclopedia/us-eo-14365/) [米国（連邦）](https://enterrsi.si/ja/control-map/us/) - 自主的・指針 [**AI Action Plan**](https://enterrsi.si/ja/encyclopedia/us-ai-action-plan/) [米国（連邦）](https://enterrsi.si/ja/control-map/us/) - 自主的・指針 [**National Policy Framework**](https://enterrsi.si/ja/encyclopedia/us-national-policy-framework/) [米国（連邦）](https://enterrsi.si/ja/control-map/us/) - 自主的・指針 [**CAISSI**](https://enterrsi.si/ja/encyclopedia/us-caissi/) [米国（連邦）](https://enterrsi.si/ja/control-map/us/) - 提案中 [**FRONTIER Act**](https://enterrsi.si/ja/encyclopedia/us-frontier-act/) [米国（連邦）](https://enterrsi.si/ja/control-map/us/) - 施行中 [**SB 53**](https://enterrsi.si/ja/encyclopedia/ca-sb-53/) [カリフォルニア州](https://enterrsi.si/ja/control-map/california/) - 成立済み、未施行 [**SB 813**](https://enterrsi.si/ja/encyclopedia/ca-sb-813/) [カリフォルニア州](https://enterrsi.si/ja/control-map/california/) - 施行中 [**EO N-9-26**](https://enterrsi.si/ja/encyclopedia/ca-eo-n-9-26/) [カリフォルニア州](https://enterrsi.si/ja/control-map/california/) - 成立済み、未施行 [**RAISE Act**](https://enterrsi.si/ja/encyclopedia/ny-raise-act/) [ニューヨーク州](https://enterrsi.si/ja/control-map/new-york/) この成績表を引用する 「Google DeepMindの安全性成績表」封じ込めボード、enterrsi.si、2026年11月8日。総合B-（GPA 2.66）、11社中3位。https://enterrsi.si/ja/containment-board/google-deepmind/ enterrsi.siへのリンクを添えれば、CC BY 4.0のもとで自由に引用できます。 [2位 · B OpenAI](https://enterrsi.si/ja/containment-board/openai/)[4位 · C+ Microsoft](https://enterrsi.si/ja/containment-board/microsoft/) ボード上のすべてのラボ [Anthropic **B+**](https://enterrsi.si/ja/containment-board/anthropic/)[OpenAI **B**](https://enterrsi.si/ja/containment-board/openai/)[Microsoft **C+**](https://enterrsi.si/ja/containment-board/microsoft/)[Meta **C+**](https://enterrsi.si/ja/containment-board/meta/)[Amazon **C**](https://enterrsi.si/ja/containment-board/amazon/)[xAI **D+**](https://enterrsi.si/ja/containment-board/xai/)[Mistral **D**](https://enterrsi.si/ja/containment-board/mistral/)[Z.ai (Zhipu) **D**](https://enterrsi.si/ja/containment-board/zai/)[Alibaba (Qwen) **D-**](https://enterrsi.si/ja/containment-board/alibaba/)[DeepSeek **F**](https://enterrsi.si/ja/containment-board/deepseek/) RSIに入る ## ボード全体を見る 11のラボ、5つの基準、1つの公開された手法。並べ替え、比較し、データをダウンロードできます。 [封じ込めボードを開く](https://enterrsi.si/ja/containment-board/) [インシデント・データベース](https://enterrsi.si/ja/incidents/)