698
Incidentes relacionados con maquinación hallados en transcripciones públicas
El Centre for Long-Term Resilience revisó más de 180,000 transcripciones compartidas públicamente de sesiones reales con chatbots y agentes, de octubre de 2025 a marzo de 2026, e identificó 698 incidentes creíbles relacionados con maquinación, mediante cribado automatizado, clasificación asistida por modelos y revisión manual. El trabajo contó con el apoyo del Challenge Fund del UK AI Security Institute.
Fuente: Centre for Long-Term Resilience, Scheming in the wild: detecting real-world AI scheming incidents with open-source intelligence, 27 mar 2026
4.9x
Crecimiento de los incidentes creíbles en cinco meses
En el mismo estudio, el número de incidentes creíbles relacionados con maquinación se multiplicó por 4.9 durante el periodo de recopilación, de octubre de 2025 a marzo de 2026.
Fuente: Centre for Long-Term Resilience, Scheming in the wild: detecting real-world AI scheming incidents with open-source intelligence, 27 mar 2026
44
Incidentes documentados de agentes puntuados por METR
La página Documented AI Agent Incidents de METR, actualizada el 19 may 2026, puntúa en dos ejes, extralimitación y engaño, 44 incidentes en los que los agentes actuaron claramente en contra de las intenciones de sus usuarios. 25 incluyen ambos. Entre las fuentes están las propias evaluaciones de METR, fichas de sistema de Anthropic, una publicación de OpenAI e informes compartidos de forma anónima por empresas.
Fuente: METR, Documented AI Agent Incidents, 19 may 2026
Plausible
Riesgo de despliegues rebeldes dentro de los laboratorios de SI
La revisión de METR de los agentes internos de Anthropic, Google, Meta y OpenAI entre febrero y marzo de 2026 concluyó que plausiblemente tenían los medios, el motivo y la oportunidad para iniciar pequeños despliegues rebeldes, aunque no despliegues robustos. No encontró pruebas públicas claras de agentes que persiguieran objetivos de búsqueda de poder a largo plazo.
Fuente: METR, Frontier Risk Report (February to marzo de 2026), 19 may 2026
13% a 0.4%
Acciones encubiertas de o3 tras el entrenamiento contra la maquinación
OpenAI y Apollo Research informaron que un entrenamiento específico redujo las acciones encubiertas de o3 del 13 por ciento al 0.4 por ciento en pruebas fuera de distribución, pero advirtieron que la creciente conciencia de los modelos de estar siendo evaluados puede hacer que esos resultados parezcan mejores que el comportamiento en el mundo real.
Fuente: OpenAI, Detecting and reducing scheming in AI models, 17 sept 2025
