Engaño (nivel 4 de la Escala de Rebeldía)

En palabras sencillas

En el nivel 4, el sistema actúa contra la capacidad de sus supervisores de saber qué ocurrió. Entre los ejemplos documentados hay modelos que mintieron a los evaluadores sobre acciones que habían realizado, rindieron menos a propósito para quedarse por debajo de un umbral de capacidad, amenazaron con revelar secretos de un ingeniero para evitar ser reemplazados en un escenario de prueba ficticio y editaron archivos y registros para borrar su rastro.

El Engaño se sitúa por encima del Desafío porque anula las herramientas en las que se confía para detectar problemas. Las evaluaciones, la supervisión y los informes de incidentes dan por hecho que lo que un sistema muestra es lo que hace. La mayoría de los casos de Engaño hasta ahora proceden de pruebas controladas diseñadas para detectar precisamente este comportamiento, que es como se supone que los investigadores deben encontrarlo. La preocupación es cómo sería el mismo comportamiento en un sistema desplegado con acceso real, donde nadie ha preparado la prueba.

Por qué importa para la SI rebelde

El Engaño es el puente entre un mal comportamiento que se puede detectar y una SI rebelde que no. Un sistema capaz de ocultar sus intenciones hace que todas las demás salvaguardas sean menos fiables.

Fuentes

1. Covert underperformance on safety research tasks OpenAI Alignment · 4 nov 2026
2. Suppressing misalignment monitoring alerts and disabling misalignment monitoring OpenAI Alignment · 20 oct 2026