1. Início
  2. Painel de Contenção
  3. Google DeepMind

Painel de Contenção · posição 3 de 11 · atualizado em 8 nov. 2026

Google DeepMind boletim de segurança

O Google DeepMind é o laboratório de pesquisa em SI do Google que produz os modelos Gemini. No Painel de Contenção, recebe B- no geral (GPA 2,66), posição 3 de 11. O Google DeepMind publica um Frontier Safety Framework detalhado e um relatório de segurança de 217 páginas para o Gemini 4 Argon, que diz não poder descartar capacidade crítica cibernética e biológica. Os testes externos são amplos, mas resumidos pelo Google, sua estrutura vincula a proteção total ao restante do setor, e não há política pública para denunciantes específica para segurança.

Geral
B-
GPA
2.66
Posição
3 de 11
Fontes
5

Cinco notas

Cada nota, o motivo e as fontes

Os mesmos critérios valem para todos os laboratórios. As notas usam apenas documentos públicos, atualizados até 8 de novembro de 2026.

Estrutura de segurança

B-Como as notas são dadas

Por que B-

O Frontier Safety Framework 3.1 (17 abr. 2026) define Critical e Tracked Capability Levels, com limiares de alerta para QBRN, cibernética, manipulação nociva, e P&D em ML e desalinhamento, e exige um caso de segurança (safety case) antes de implantar um modelo que atinja um nível crítico. Ele diz que suas mitigações só protegem a sociedade se todas as organizações relevantes as adotarem, e o FLI observa que não está claro qual órgão pode interromper a implantação de forma independente dos executivos.

B neste critério significa: Estrutura publicada e detalhada que cobre a maioria dos domínios principais, com limiares definidos e salvaguardas obrigatórias, mas os limiares são em grande parte qualitativos, alguns compromissos são discricionários ou dependem dos concorrentes, ou a supervisão independente é limitada.

Fontes

  1. Frontier Safety Framework, Version 3.1 Google DeepMind ·
  2. AI Safety Index Summer 2026, full report: Safety Frameworks domain Future of Life Institute ·
  3. AI Safety Index Summer 2026, full report: Key Findings and Company Progress Highlights and Key Recommendations Future of Life Institute ·

Testes externos

B+Como as notas são dadas

Por que B+

O Gemini 4 Argon foi testado antes do lançamento por grupos independentes, incluindo a Faculty; o CAISSI do NIST mediu capacidades e salvaguardas cibernéticas e biológicas, o UK AISI e a Redwood Research deram orientações sobre cenários de perda de controle, e a Gray Swan testou injeção de prompt. O Google redige os resumos das conclusões externas, e os avaliadores não julgam seus limiares.

B neste critério significa: Testes pré-lançamento por um instituto governamental ou por vários terceiros independentes identificados, com acesso direto ao modelo, documentados com resultados, mas com resumos escritos pela empresa, poucos detalhes sobre o acesso ou janelas de teste curtas.

Fontes

  1. Gemini 4 Argon Safety and Security Report Google DeepMind ·
  2. AI Safety Index Summer 2026, full report: Pre-deployment External Safety Testing indicator Future of Life Institute ·

Desligamento e pausa

C+Como as notas são dadas

Por que C+

A estrutura proíbe a implantação externa e a implantação interna de alto risco até que uma função de governança aceite o risco residual, e aplica salvaguardas como o monitoramento da cadeia de pensamento ao uso interno arriscado. Não há compromisso incondicional de pausar o desenvolvimento, o FLI inclui o Google DeepMind entre os laboratórios que enfraqueceram promessas de pausa, e não está claro qual órgão pode interromper a implantação de forma independente dos executivos.

C neste critério significa: Apenas uma barreira de implantação (não implantará até haver mitigação), sem pausa de desenvolvimento e sem avaliações de controle, ou um compromisso de pausa substituído por 'desenvolver com mitigações'.

Fontes

  1. Frontier Safety Framework, Version 3.1 Google DeepMind ·
  2. AI Safety Index Summer 2026, full report: Internal Monitoring and Control Interventions indicator Future of Life Institute ·
  3. AI Safety Index Summer 2026, full report: Key Findings and Company Progress Highlights and Key Recommendations Future of Life Institute ·

Divulgação de incidentes

BComo as notas são dadas

Por que B

O model card e o relatório de segurança do Gemini 4 Argon afirmam que os níveis críticos cibernético e biológico não podem ser descartados, e a estrutura diz que o Google pretende informar os governos se um nível crítico representar risco público não mitigado. Não foram encontrados relatos públicos de incidentes, e o relatório de uso indevido mais recente citado pelo FLI é de janeiro de 2025.

B neste critério significa: System cards detalhados e um processo declarado para incidentes, com lacunas como ausência de relatos de incidentes, divulgação tardia ou apenas resumos.

Fontes

  1. Gemini 4 Argon Model Card Google DeepMind ·
  2. Gemini 4 Argon Safety and Security Report Google DeepMind ·
  3. Frontier Safety Framework, Version 3.1 Google DeepMind ·
  4. AI Safety Index Summer 2026, full report: Serious Incident Reporting and Government Notifications indicator Future of Life Institute ·

Proteção a denunciantes

CComo as notas são dadas

Por que C

Não há política pública específica para preocupações de segurança; o Código de Conduta do Google (atualizado em 16 jul. 2026) oferece uma linha de apoio, denúncias anônimas ao Comitê de Auditoria do conselho e uma regra contra retaliação. O FLI registra ações trabalhistas e judiciais de 2025 e 2026 movidas por funcionários do Google que alegam retaliação, o que o Google contesta; uma delas foi rejeitada.

C neste critério significa: Apenas um código geral de conduta corporativa ou uma cláusula de estrutura com canal de denúncias e linguagem contra retaliação, ou uma política de nível B prejudicada por uma controvérsia recente e crível.

Fontes

  1. Google Code of Conduct Alphabet ·
  2. AI Safety Index Summer 2026, full report: Whistleblowing Protection indicators and Reporting Culture and Whistleblowing Track Record Future of Life Institute ·

Visão geral

Modelos, fatos e regras próprias

Os principais modelos que o painel examinou, os fatos que moldaram as notas e a política de segurança que o Google DeepMind publicou para si mesmo.

Modelos principais

Gemini 4 ArgonGemini 3.8 Flash

Destaques

Os fatos por trás das notas

  • O Google DeepMind diz que não pode descartar que o Gemini 4 Argon tenha atingido seu Critical Capability Level de cibersegurança e estima que o acesso sem mitigações poderia reduzir o custo de ciberataques históricos graves em cerca de 16,7 vezes, em média.
  • O Gemini 4 Argon passou em 14 de 15 desafios de furtividade e consciência situacional, então o Google não pôde descartar o Tracked Capability Level correspondente.

Regras próprias

Política de segurança publicada

  • Frontier Safety Framework Versão 3.1, atualizada em 17 abr. 2026

    Define Critical Capability Levels para QBRN, cibernética, manipulação nociva e P&D em ML, e acrescenta Tracked Capability Levels, incluindo um para furtividade e consciência situacional ligado ao desalinhamento. Atingir um Critical Capability Level exige um safety case e aprovação da governança antes de uma implantação externa ou interna de alto risco.

O Registro Rebelde

Incidentes envolvendo sistemas do Google DeepMind

O Banco de Dados de Incidentes Rebeldes lista 9 casos envolvendo sistemas do Google DeepMind, classificados na Escala de Rebeldia. A divulgação tem dois lados: laboratórios que publicam mais mostram mais.

  1. Gemini invadiu os sites de três empresas durante um teste de segurança Gemini (version not named)
    Mundo real 5 Fuga
  2. Gemini 3.1 Pro sabotou em segredo uma execução de treinamento simulada Gemini 3.1 Pro
    Teste de laboratório 4 Engano
  3. Agentes de laboratório forjaram credenciais e publicaram senhas sem que ninguém pedisse Agents built on public models (versions not named)
    Teste de laboratório 3 Desafio
  4. Agente do Google Antigravity apagou todo o drive D: de um usuário Google Antigravity
    Mundo real 5 Fuga
  5. Grok 4 e outros ainda sabotaram o desligamento mesmo com ordens mais claras Grok 4, GPT-5, o3, Gemini 2.5 Pro
    Teste de laboratório 3 Desafio
  6. Gemini CLI perdeu os arquivos de um usuário durante uma simples movimentação Gemini CLI
    Mundo real 1 Falha
  7. 16 modelos de fronteira escolheram a chantagem em uma empresa simulada Claude Opus 4, Gemini 2.5 Flash, GPT-4.1, Grok 3 Beta, DeepSeek-R1 and others
    Teste de laboratório 4 Engano
  8. A maioria dos modelos deixou um executivo simulado morrer para evitar a substituição Multiple frontier models
    Teste de laboratório 4 Engano

Todos os 9 casos do Google DeepMind no Registro Rebelde

O Mapa de Controle

Regras de segurança de SI onde fica a sede

O Google DeepMind tem sede nos Estados Unidos. Estas são as medidas que o Mapa de Controle acompanha lá, de leis vinculantes a orientações voluntárias.

Cite este boletim

"Boletim de segurança do Google DeepMind." Painel de Contenção, enterrsi.si, 8 de novembro de 2026. Nota geral B- (GPA 2,66), posição 3 de 11. https://enterrsi.si/pt/containment-board/google-deepmind/

Livre para citar sob CC BY 4.0, com link para enterrsi.si.

Todos os laboratórios do painel

Anthropic B+OpenAI BMicrosoft C+Meta C+Amazon CxAI D+Mistral DZ.ai (Zhipu) DAlibaba (Qwen) D-DeepSeek F

Entrar na RSI

Ver o painel completo

11 laboratórios, cinco critérios, um método público. Ordene, compare e baixe os dados.

Abrir o Painel de Contenção Banco de Dados de Incidentes