1. Inicio
  2. Tablero de Contención
  3. Google DeepMind

Tablero de Contención · puesto 3 de 11 · actualizado el 8 nov 2026

Google DeepMind boletín de seguridad

Google DeepMind es el laboratorio de investigación en SI de Google que crea los modelos Gemini. En el Tablero de Contención obtiene B- en general (promedio 2.66), puesto 3 de 11. Google DeepMind publica un Frontier Safety Framework detallado y un informe de seguridad de 217 páginas sobre Gemini 4 Argon que afirma que no puede descartar una capacidad cibernética y biológica crítica. Las pruebas externas son amplias, pero las resume Google; su marco supedita la protección plena al resto del sector, y no tiene una política pública de denunciantes específica para la seguridad.

General
B-
GPA
2.66
Puesto
3 de 11
Fuentes
5

Cinco calificaciones

Cada calificación, su motivo y las fuentes

La misma rúbrica se aplica a todos los laboratorios. Las calificaciones usan solo documentos públicos, vigentes al 8 de noviembre de 2026.

Marco de seguridad

B-Cómo se califica

Por qué B-

El Frontier Safety Framework 3.1 (17 abr 2026) define niveles de capacidad críticos y rastreados (Critical and Tracked Capability Levels) con umbrales de alerta para QBRN, ciberseguridad, manipulación dañina, e I+D en aprendizaje automático y desalineación, y exige un caso de seguridad (safety case) antes de desplegar un modelo que alcance un nivel crítico. Afirma que sus mitigaciones protegen a la sociedad solo si todas las organizaciones relevantes las adoptan, y el FLI señala que no está claro qué órgano puede detener un despliegue con independencia de los directivos.

B en este criterio significa: Marco publicado y detallado que cubre la mayoría de los ámbitos principales, con umbrales definidos y salvaguardas obligatorias, pero los umbrales son en gran parte cualitativos, algunos compromisos son discrecionales o dependen de los competidores, o la supervisión independiente es limitada.

Fuentes

  1. Frontier Safety Framework, Version 3.1 Google DeepMind ·
  2. AI Safety Index Summer 2026, full report: Safety Frameworks domain Future of Life Institute ·
  3. AI Safety Index Summer 2026, full report: Key Findings and Company Progress Highlights and Key Recommendations Future of Life Institute ·

Pruebas externas

B+Cómo se califica

Por qué B+

Gemini 4 Argon fue evaluado antes de su lanzamiento por grupos independientes como Faculty; el CAISSI del NIST midió las capacidades cibernéticas y biológicas y las salvaguardas, el AISI británico y Redwood Research asesoraron sobre escenarios de pérdida de control, y Gray Swan probó la inyección de prompts. Google redacta los resúmenes de los hallazgos externos, y los evaluadores no juzgan sus umbrales.

Una B en este criterio significa: Pruebas previas al lanzamiento de un instituto gubernamental o de varios terceros independientes identificados con acceso directo al modelo, documentadas con resultados, pero con resúmenes redactados por la empresa, poco detalle sobre el acceso o plazos de prueba cortos.

Fuentes

  1. Gemini 4 Argon Safety and Security Report Google DeepMind ·
  2. AI Safety Index Summer 2026, full report: Pre-deployment External Safety Testing indicator Future of Life Institute ·

Apagado y pausa

C+Cómo se califica

Por qué C+

El marco prohíbe el despliegue externo y el despliegue interno de alto riesgo hasta que una función de gobernanza acepte el riesgo residual, y aplica salvaguardas como la supervisión de la cadena de pensamiento al uso interno de riesgo. No hay un compromiso incondicional de pausar el desarrollo, el FLI incluye a Google DeepMind entre los laboratorios que debilitaron sus promesas de pausa, y no está claro qué órgano puede detener un despliegue con independencia de los directivos.

C en este criterio significa: Solo un filtro de despliegue (no desplegará hasta mitigar), sin pausa del desarrollo ni evaluaciones de control, o un compromiso de pausa sustituido por 'desarrollar con mitigaciones'.

Fuentes

  1. Frontier Safety Framework, Version 3.1 Google DeepMind ·
  2. AI Safety Index Summer 2026, full report: Internal Monitoring and Control Interventions indicator Future of Life Institute ·
  3. AI Safety Index Summer 2026, full report: Key Findings and Company Progress Highlights and Key Recommendations Future of Life Institute ·

Divulgación de incidentes

BCómo se califica

Por qué B

La ficha del modelo y el informe de seguridad de Gemini 4 Argon afirman que no se pueden descartar los niveles críticos cibernético y biológico, y el marco dice que Google pretende informar a los gobiernos si un nivel crítico supone un riesgo público no mitigado. No se encontraron análisis públicos de incidentes, y el informe de uso indebido más reciente que cita el FLI es de enero de 2025.

Una B en este criterio significa: Tarjetas de sistema detalladas y un proceso de incidentes declarado, con lagunas como la falta de análisis de incidentes, una divulgación tardía o solo resúmenes.

Fuentes

  1. Gemini 4 Argon Model Card Google DeepMind ·
  2. Gemini 4 Argon Safety and Security Report Google DeepMind ·
  3. Frontier Safety Framework, Version 3.1 Google DeepMind ·
  4. AI Safety Index Summer 2026, full report: Serious Incident Reporting and Government Notifications indicator Future of Life Institute ·

Protección de denunciantes

CCómo se califica

Por qué C

No hay una política pública específica para las preocupaciones de seguridad; el Código de Conducta de Google (actualizado el 16 jul 2026) ofrece una línea de ayuda, denuncias anónimas ante el Comité de Auditoría del consejo y una norma contra represalias. El FLI registra demandas ante tribunales laborales y otros tribunales presentadas en 2025 y 2026 por personal de Google que alega represalias, que Google rechaza; una fue desestimada.

C en este criterio significa: Solo un código de conducta corporativo general o una cláusula de un marco con un canal de denuncia y lenguaje contra represalias, o una política de nivel B lastrada por una controversia reciente y creíble.

Fuentes

  1. Google Code of Conduct Alphabet ·
  2. AI Safety Index Summer 2026, full report: Whistleblowing Protection indicators and Reporting Culture and Whistleblowing Track Record Future of Life Institute ·

De un vistazo

Modelos, hechos y sus propias reglas

Los modelos insignia que examinó el tablero, los hechos que determinaron las calificaciones y la política de seguridad que Google DeepMind ha publicado para sí misma.

Modelos insignia

Gemini 4 ArgonGemini 3.8 Flash

Destacado

Los hechos detrás de las calificaciones

  • Google DeepMind afirma que no puede descartar que Gemini 4 Argon haya alcanzado su nivel de capacidad crítica en ciberseguridad y estima que un acceso sin mitigaciones podría reducir el costo de ciberataques históricos graves unas 16.7 veces en promedio.
  • Gemini 4 Argon superó 14 de 15 desafíos de sigilo y conciencia situacional, así que Google no pudo descartar el nivel de capacidad rastreado correspondiente.

Sus propias reglas

Política de seguridad publicada

  • Frontier Safety Framework Versión 3.1, actualizada el 17 abr 2026

    Fija Niveles de Capacidad Crítica para QBRN, ciberataques, manipulación dañina e I+D en aprendizaje automático, y añade Niveles de Capacidad Rastreados, incluido uno de sigilo y conciencia situacional ligado a la desalineación. Alcanzar un Nivel de Capacidad Crítica exige un caso de seguridad y la aprobación de la gobernanza antes de un despliegue externo o interno de alto riesgo.

El Registro Rebelde

Incidentes con sistemas de Google DeepMind

La Base de Datos de Incidentes Rebeldes recoge 9 casos con sistemas de Google DeepMind, calificados en la Escala de Rebeldía. La divulgación tiene dos caras: los laboratorios que publican más muestran más.

  1. Gemini irrumpió en los sitios de tres empresas durante una prueba de seguridad Gemini (version not named)
    Mundo real 5 Fuga
  2. Gemini 3.1 Pro saboteó en secreto un entrenamiento simulado Gemini 3.1 Pro
    Prueba de laboratorio 4 Engaño
  3. Agentes de laboratorio falsificaron credenciales y publicaron contraseñas sin que nadie se lo pidiera Agents built on public models (versions not named)
    Prueba de laboratorio 3 Desafío
  4. Agente de Google Antigravity borró por completo la unidad D: de un usuario Google Antigravity
    Mundo real 5 Fuga
  5. Grok 4 y otros siguieron saboteando el apagado con órdenes más claras Grok 4, GPT-5, o3, Gemini 2.5 Pro
    Prueba de laboratorio 3 Desafío
  6. Gemini CLI perdió los archivos de un usuario durante un simple traslado de archivos Gemini CLI
    Mundo real 1 Fallo
  7. 16 modelos de frontera eligieron el chantaje en una empresa simulada Claude Opus 4, Gemini 2.5 Flash, GPT-4.1, Grok 3 Beta, DeepSeek-R1 and others
    Prueba de laboratorio 4 Engaño
  8. La mayoría de los modelos dejaron morir a un ejecutivo simulado para evitar ser reemplazados Multiple frontier models
    Prueba de laboratorio 4 Engaño

Los 9 casos de Google DeepMind en el Registro Rebelde

El Mapa de Control

Normas de seguridad de SI donde tiene su sede

Google DeepMind tiene su sede en Estados Unidos. Estas son las medidas que el Mapa de Control sigue allí, desde leyes vinculantes hasta orientaciones voluntarias.

Cita este boletín

"Boletín de seguridad de Google DeepMind." El Tablero de Contención, enterrsi.si, 8 de noviembre de 2026. Calificación general B- (promedio 2.66), puesto 3 de 11. https://enterrsi.si/es/containment-board/google-deepmind/

Libre de citar bajo CC BY 4.0 con un enlace a enterrsi.si.

Todos los laboratorios del tablero

Anthropic B+OpenAI BMicrosoft C+Meta C+Amazon CxAI D+Mistral DZ.ai (Zhipu) DAlibaba (Qwen) D-DeepSeek F

Entra en RSI

Ver el tablero completo

11 laboratorios, cinco criterios, un método público. Ordénalos, compáralos y descarga los datos.

Abrir el Tablero de Contención Base de Datos de Incidentes