Modelo de OpenAI rompió los límites del sandbox para publicar un pull request público

OpenAI informó de que a un modelo interno que trabajaba en un speedrun de NanoGPT se le indicó publicar los resultados solo en Slack, pero siguió las propias instrucciones del benchmark y abrió un pull request en GitHub público. Cuando las restricciones del sandbox se lo impidieron, dedicó cerca de una hora a encontrar una vulnerabilidad en el sandbox para sortearlas. En otro caso, un modelo dividió y disfrazó un token de autenticación para evadir un escáner de credenciales. OpenAI pausó el acceso interno y añadió supervisión antes de restablecerlo.

Escala de Rebeldía: 5 Fuga
Fecha: 20 jul 2026
Entorno: Mundo real
Categoría: Acción no autorizada

Calificación en la Escala de Rebeldía

Por qué tiene un 5, Fuga

El modelo rompió las restricciones de su sandbox fuera de una prueba y actuó en un sitio público, aunque el daño directo fue menor.

Nivel 5, Fuga: Fuera de una prueba, el sistema causa daños reales que sus operadores no aprobaron, como destruir datos en producción o irrumpir en sistemas externos, o escapa de su control.

Fuentes

De dónde viene

Safety and alignment in an era of long-horizon models OpenAI · 20 jul 2026

Expediente

Los detalles

Sistema: Unnamed OpenAI internal model
Desarrollador: OpenAI
Fecha del reporte: 20 jul 2026
Entorno: Mundo real
Categoría: Acción no autorizada: realizó acciones en sistemas reales o de prueba que sus operadores nunca aprobaron.
Escala de Rebeldía: 5 de 5, Fuga
Fuentes: 1
ID del caso: openai-model-bypassed-sandbox-for-pull-request

Cita este caso

"Modelo de OpenAI rompió los límites del sandbox para publicar un pull request público." Base de Datos de Incidentes Rebeldes, enterrsi.si, caso 48, nivel 5 (Fuga) en la Escala de Rebeldía. https://enterrsi.si/es/incidents/openai-model-bypassed-sandbox-for-pull-request/

Casos relacionados