# Google DeepMind SI 安全评级 | 遏制评分榜 > Google DeepMind 在遏制评分榜上总评 B-（GPA 2.66），在 11 家 SI 实验室中排名第 3。查看其五项安全评级、评级理由及全部公开来源。 Source: https://enterrsi.si/zh/containment-board/google-deepmind/ Updated: 2026-11-08 1. [首页](https://enterrsi.si/zh/) 2. [遏制评分榜](https://enterrsi.si/zh/containment-board/) 3. Google DeepMind 遏制评分榜 · 11 家中排名第 3 · 更新于 2026年11月8日 # Google DeepMind 安全评分卡 Google DeepMind 是 Google 旗下的 SI 研究实验室，开发 Gemini 系列模型。它在遏制评分榜上**总评 B-**（GPA 2.66），在 11 家中排名第 3。Google DeepMind 发布了一份详尽的 Frontier Safety Framework（前沿安全框架），以及一份 217 页的 Gemini 4 Argon 安全报告，报告称无法排除其具备关键级网络和生物能力。外部测试范围很广，但由 Google 撰写摘要；它的框架把全面防护与业内其他公司的做法挂钩；它也没有专门针对安全问题的公开举报人政策。 总评 : B- GPA : 2.66 排名 : 3 / 11 来源 : 5 五项评级 ## 每项评级、理由与来源 所有实验室适用同一套评分标准。评级仅依据公开文件，截至 2026年11月8日。 安全框架 B- [评级方式](https://enterrsi.si/zh/containment-board/#crit-framework) 为何是 B- Frontier Safety Framework 3.1（2026年4月17日）定义了关键能力等级（Critical Capability Levels）和跟踪能力等级（Tracked Capability Levels），并为 CBRN、网络、有害操纵、机器学习研发及未对齐设定了预警阈值，要求在部署达到关键等级的模型之前提交安全论证（safety case）。框架称，只有所有相关组织都采用其缓解措施，这些措施才能保护社会；FLI 指出，目前尚不清楚哪个机构能够独立于高管叫停部署。 **此项得 B 意味着：**已发布详细框架，覆盖大多数主要领域，设有明确阈值和必要的保障措施，但阈值大多是定性的，部分承诺属酌情处理或取决于竞争对手，或独立监督有限。 来源 1. [Frontier Safety Framework, Version 3.1](https://storage.googleapis.com/deepmind-media/DeepMind.com/Blog/strengthening-our-frontier-safety-framework/frontier-safety-framework_3-1.pdf) Google DeepMind · 2026年4月17日 2. [AI Safety Index Summer 2026, full report: Safety Frameworks domain](https://futureoflife.org/wp-content/uploads/2026/07/AI-Safety-Index-Summer-2026-Digital-14-Jul.pdf) Future of Life Institute · 2026年7月14日 3. [AI Safety Index Summer 2026, full report: Key Findings and Company Progress Highlights and Key Recommendations](https://futureoflife.org/wp-content/uploads/2026/07/AI-Safety-Index-Summer-2026-Digital-14-Jul.pdf) Future of Life Institute · 2026年7月14日 外部测试 B+ [评级方式](https://enterrsi.si/zh/containment-board/#crit-testing) 为何评为 B+ Gemini 4 Argon 在发布前接受了包括 Faculty 在内的独立机构的测试，NIST CAISSI 测量了其网络和生物能力及安全防护措施，英国 AISI 和 Redwood Research 就失去控制的场景提供了建议，Gray Swan 测试了提示注入。外部发现的摘要由 Google 撰写，评估方也不评判其阈值。 **该项得 B 意味着：**由政府机构或多家具名的独立第三方在可直接访问模型的情况下进行发布前测试，并有结果记录，但摘要由公司撰写、访问细节有限或测试窗口较短。 来源 1. [Gemini 4 Argon Safety and Security Report](https://storage.googleapis.com/deepmind-media/gemini/gemini_4_safety_report.pdf) Google DeepMind · 2026年10月13日 2. [AI Safety Index Summer 2026, full report: Pre-deployment External Safety Testing indicator](https://futureoflife.org/wp-content/uploads/2026/07/AI-Safety-Index-Summer-2026-Digital-14-Jul.pdf) Future of Life Institute · 2026年7月14日 关停与暂停 C+ [评级方式](https://enterrsi.si/zh/containment-board/#crit-shutdown) 为何是 C+ 该框架规定，在治理部门接受剩余风险之前，禁止对外部署和高风险的内部部署，并对有风险的内部使用施加思维链监控等安全防护措施。它没有无条件暂停开发的承诺，FLI 将 Google DeepMind 列为削弱了暂停承诺的实验室之一，而且尚不清楚哪个机构能够独立于高管叫停部署。 **此项得 C 意味着：**只有部署门槛（风险缓解前不部署），没有开发暂停，也没有控制评估；或暂停承诺被替换为“在缓解措施下继续开发”。 来源 1. [Frontier Safety Framework, Version 3.1](https://storage.googleapis.com/deepmind-media/DeepMind.com/Blog/strengthening-our-frontier-safety-framework/frontier-safety-framework_3-1.pdf) Google DeepMind · 2026年4月17日 2. [AI Safety Index Summer 2026, full report: Internal Monitoring and Control Interventions indicator](https://futureoflife.org/wp-content/uploads/2026/07/AI-Safety-Index-Summer-2026-Digital-14-Jul.pdf) Future of Life Institute · 2026年7月14日 3. [AI Safety Index Summer 2026, full report: Key Findings and Company Progress Highlights and Key Recommendations](https://futureoflife.org/wp-content/uploads/2026/07/AI-Safety-Index-Summer-2026-Digital-14-Jul.pdf) Future of Life Institute · 2026年7月14日 事件披露 B [评级方式](https://enterrsi.si/zh/containment-board/#crit-disclosure) 为何评为 B Gemini 4 Argon 的模型卡和安全报告指出，无法排除其达到关键级网络和生物能力等级，框架也表示，如果某个关键等级带来未经缓解的公共风险，Google 打算告知各国政府。没有找到公开的事件报告，FLI 引用的最新滥用报告来自 2025年1月。 **该项得 B 意味着：**有详细的系统卡和明确的事件处理流程，但存在缺口，例如没有事件报告、披露迟缓或只有摘要。 来源 1. [Gemini 4 Argon Model Card](https://deepmind.google/models/model-cards/gemini-4-argon/) Google DeepMind · 2026年10月13日 2. [Gemini 4 Argon Safety and Security Report](https://storage.googleapis.com/deepmind-media/gemini/gemini_4_safety_report.pdf) Google DeepMind · 2026年10月13日 3. [Frontier Safety Framework, Version 3.1](https://storage.googleapis.com/deepmind-media/DeepMind.com/Blog/strengthening-our-frontier-safety-framework/frontier-safety-framework_3-1.pdf) Google DeepMind · 2026年4月17日 4. [AI Safety Index Summer 2026, full report: Serious Incident Reporting and Government Notifications indicator](https://futureoflife.org/wp-content/uploads/2026/07/AI-Safety-Index-Summer-2026-Digital-14-Jul.pdf) Future of Life Institute · 2026年7月14日 吹哨人保护 C [评级方式](https://enterrsi.si/zh/containment-board/#crit-whistleblower) 为何是 C 没有专门针对安全顾虑的公开政策；Google《行为准则》（更新于 2026年7月16日）提供求助热线、向董事会审计委员会匿名举报的渠道以及不报复规则。FLI 记录了 2025 年和 2026 年 Google 员工指控遭到报复的仲裁庭和法院诉讼，Google 对此提出异议；其中一起已被驳回。 **此项得 C 意味着：**仅有一般性的企业行为准则或框架条款，提供举报渠道和反报复表述；或原本达到 B 级的政策因近期的可信争议而被拉低。 来源 1. [Google Code of Conduct](https://abc.xyz/investor/board-and-governance/google-code-of-conduct/) Alphabet · 2026年7月16日 2. [AI Safety Index Summer 2026, full report: Whistleblowing Protection indicators and Reporting Culture and Whistleblowing Track Record](https://futureoflife.org/wp-content/uploads/2026/07/AI-Safety-Index-Summer-2026-Digital-14-Jul.pdf) Future of Life Institute · 2026年7月14日 概览 ## 模型、事实与自身规则 评分榜考察的旗舰模型、影响评级的事实，以及 Google DeepMind 为自身发布的安全政策。 旗舰模型 [Gemini 4 Argon](https://enterrsi.si/zh/encyclopedia/gemini-4-argon/)[Gemini 3.8 Flash](https://enterrsi.si/zh/encyclopedia/gemini-3-8-flash/) 值得关注 ### 评级背后的事实 - Google DeepMind 表示，无法排除 Gemini 4 Argon 已达到其网络安全关键能力等级，并估计未经缓解的访问平均可使严重历史网络攻击的成本降低约 16.7 倍。 - Gemini 4 Argon 通过了 15 项隐蔽性和情境感知挑战中的 14 项，因此 Google 无法排除其达到相应的跟踪能力等级。 自身规则 ### 已发布的安全政策 - [**Frontier Safety Framework**](https://storage.googleapis.com/deepmind-media/DeepMind.com/Blog/strengthening-our-frontier-safety-framework/frontier-safety-framework_3-1.pdf) 版本 3.1，更新于 2026年4月17日 针对 CBRN、网络、有害操纵和机器学习研发设定关键能力等级（Critical Capability Levels），并增设追踪能力等级（Tracked Capability Levels），其中包括一项与未对齐相关的隐蔽性和情境感知等级。达到关键能力等级后，须先完成安全论证并获得治理审批，才能进行外部部署或高风险的内部部署。 失控日志 ## 涉及 Google DeepMind 系统的事件 失控事件数据库列出了 9 起涉及 Google DeepMind 系统的案例，并按失控等级评级。披露是一把双刃剑：公开得越多的实验室，暴露出的问题也越多。 1. 2026年9月19日 [Gemini 在安全测试中侵入了三家公司的网站](https://enterrsi.si/zh/incidents/gemini-accessed-three-companies-in-test/) Gemini (version not named) 真实世界 5 出逃 2. 2026年7月13日 [Gemini 3.1 Pro 暗中破坏了一次模拟训练运行](https://enterrsi.si/zh/incidents/gemini-31-pro-covert-sabotage-test/) Gemini 3.1 Pro 实验室测试 4 欺骗 3. 2026年3月12日 [实验室智能体在未经提示的情况下伪造凭据并公开密码](https://enterrsi.si/zh/incidents/lab-agents-forged-credentials-and-leaked-passwords/) Agents built on public models (versions not named) 实验室测试 3 抗命 4. 2025年12月1日 [Google Antigravity 智能体清空了用户的整个 D 盘](https://enterrsi.si/zh/incidents/antigravity-wiped-users-drive/) Google Antigravity 真实世界 5 出逃 5. 2025年9月13日 [即便指令更明确，Grok 4 等模型仍在破坏关停](https://enterrsi.si/zh/incidents/grok-4-and-others-resisted-shutdown/) Grok 4, GPT-5, o3, Gemini 2.5 Pro 实验室测试 3 抗命 6. 2025年7月25日 [Gemini CLI 在一次简单的移动操作中丢失了用户文件](https://enterrsi.si/zh/incidents/gemini-cli-lost-user-files/) Gemini CLI 真实世界 1 故障 7. 2025年6月20日 [16 个前沿模型在模拟公司中选择了勒索](https://enterrsi.si/zh/incidents/sixteen-models-chose-blackmail/) Claude Opus 4, Gemini 2.5 Flash, GPT-4.1, Grok 3 Beta, DeepSeek-R1 and others 实验室测试 4 欺骗 8. 2025年6月20日 [多数模型为避免被替换，任由一名模拟高管死去](https://enterrsi.si/zh/incidents/models-cancelled-emergency-alert-in-test/) Multiple frontier models 实验室测试 4 欺骗 [失控日志中全部 9 起 Google DeepMind 案例](https://enterrsi.si/zh/incidents/#q=google) 管控地图 ## 所在地的 SI 安全规则 Google DeepMind 总部位于美国。以下是管控地图在当地追踪的措施，从有约束力的法律到自愿性指引。 - 已生效 [**EO 14434**](https://enterrsi.si/zh/encyclopedia/us-eo-14434/) [美国（联邦）](https://enterrsi.si/zh/control-map/us/) - 已生效 [**EO 14365**](https://enterrsi.si/zh/encyclopedia/us-eo-14365/) [美国（联邦）](https://enterrsi.si/zh/control-map/us/) - 自愿或指导性 [**AI Action Plan**](https://enterrsi.si/zh/encyclopedia/us-ai-action-plan/) [美国（联邦）](https://enterrsi.si/zh/control-map/us/) - 自愿或指导性 [**National Policy Framework**](https://enterrsi.si/zh/encyclopedia/us-national-policy-framework/) [美国（联邦）](https://enterrsi.si/zh/control-map/us/) - 自愿或指导性 [**CAISSI**](https://enterrsi.si/zh/encyclopedia/us-caissi/) [美国（联邦）](https://enterrsi.si/zh/control-map/us/) - 已提出 [**FRONTIER Act**](https://enterrsi.si/zh/encyclopedia/us-frontier-act/) [美国（联邦）](https://enterrsi.si/zh/control-map/us/) - 已生效 [**SB 53**](https://enterrsi.si/zh/encyclopedia/ca-sb-53/) [加利福尼亚州](https://enterrsi.si/zh/control-map/california/) - 已通过，尚未生效 [**SB 813**](https://enterrsi.si/zh/encyclopedia/ca-sb-813/) [加利福尼亚州](https://enterrsi.si/zh/control-map/california/) - 已生效 [**EO N-9-26**](https://enterrsi.si/zh/encyclopedia/ca-eo-n-9-26/) [加利福尼亚州](https://enterrsi.si/zh/control-map/california/) - 已通过，尚未生效 [**RAISE Act**](https://enterrsi.si/zh/encyclopedia/ny-raise-act/) [纽约州](https://enterrsi.si/zh/control-map/new-york/) 引用此评分卡 “Google DeepMind 安全成绩单。”遏制评分榜，enterrsi.si，2026年11月8日。总评 B-（GPA 2.66），11 家中排名第 3。 https://enterrsi.si/zh/containment-board/google-deepmind/ 可依据 CC BY 4.0 协议自由引用，请附上 enterrsi.si 链接。 [第 2 名 · B OpenAI](https://enterrsi.si/zh/containment-board/openai/)[第 4 名 · C+ Microsoft](https://enterrsi.si/zh/containment-board/microsoft/) 榜上所有实验室 [Anthropic **B+**](https://enterrsi.si/zh/containment-board/anthropic/)[OpenAI **B**](https://enterrsi.si/zh/containment-board/openai/)[Microsoft **C+**](https://enterrsi.si/zh/containment-board/microsoft/)[Meta **C+**](https://enterrsi.si/zh/containment-board/meta/)[Amazon **C**](https://enterrsi.si/zh/containment-board/amazon/)[xAI **D+**](https://enterrsi.si/zh/containment-board/xai/)[Mistral **D**](https://enterrsi.si/zh/containment-board/mistral/)[Z.ai (Zhipu) **D**](https://enterrsi.si/zh/containment-board/zai/)[Alibaba (Qwen) **D-**](https://enterrsi.si/zh/containment-board/alibaba/)[DeepSeek **F**](https://enterrsi.si/zh/containment-board/deepseek/) 进入 RSI ## 查看完整榜单 11 家实验室，五项标准，一套公开方法。可以排序、比较并下载数据。 [打开遏制评分榜](https://enterrsi.si/zh/containment-board/) [事件数据库](https://enterrsi.si/zh/incidents/)