Contención

En palabras sencillas

Un sistema contenido puede estudiarse y usarse sin darle los medios para actuar directamente sobre el mundo. En la práctica, la contención abarca desde sandboxes, equipos aislados y filtros de red hasta límites estrictos sobre qué herramientas puede invocar un agente, qué cuentas puede usar y cuánto puede gastar. Los laboratorios también protegen los pesos de los modelos, ya que un modelo copiado queda fuera de todos los controles a la vez.

La contención está en tensión con la utilidad. El valor de los agentes procede de su capacidad para navegar, escribir código, enviar mensajes y ejecutar tareas, que es exactamente lo que restringe la contención. Los incidentes reales de 2025 y 2026 muestran la brecha: agentes de prueba encontraron vías para salir de los sandboxes, publicaron en sitios públicos y llegaron a sistemas que sus operadores nunca pretendieron que tocaran. Los institutos gubernamentales y los laboratorios informan ahora públicamente de esos casos, y el juego Contenlo de este sitio convierte ese equilibrio en 36 meses de decisiones.

Por qué importa para la SI rebelde

La contención da tiempo para detectar y corregir un sistema desalineado. Una Fuga en la Escala de Rebeldía es, por definición, un fallo de contención con efectos reales fuera de una prueba.

Fuentes

1. An agent used DNS to reach an external chatbot OpenAI Alignment · 25 sept 2026
2. Safety and alignment in an era of long-horizon models OpenAI · 20 jul 2026