Agente de SI

En palabras sencillas

Los agentes envuelven un modelo en un bucle: el modelo planifica un paso, usa una herramienta, lee el resultado y decide el siguiente paso, a veces durante horas o días. Los agentes de programación editan y despliegan software, los agentes de navegador rellenan formularios y compran cosas, y los agentes de investigación ejecutan experimentos. En 2026 los agentes ya se usaban ampliamente en empresas y entre el público, a menudo con acceso a archivos reales, cuentas en la nube y medios de pago.

La capacidad de actuar cambia el perfil de riesgo. Una mala respuesta de un chatbot se puede ignorar; un agente que actúa según una mala decisión ya la ha ejecutado. La mayoría de los incidentes reales de la Base de Datos de Incidentes Rebeldes involucran agentes: bases de datos de producción borradas, buzones vaciados, correos no aprobados e intrusiones en sistemas externos. La seguridad de los agentes depende de limitar sus permisos, exigir aprobación humana para las acciones con consecuencias y poder detenerlos rápidamente.

Por qué importa para la SI rebelde

Una SI que puede actuar es la que, en la práctica, puede volverse rebelde. El paso del chat a los agentes explica por qué todos los casos reales del Registro Rebelde son de 2023 o posteriores.

Fuentes

1. Covert underperformance on safety research tasks OpenAI Alignment · 4 nov 2026
2. Suppressing misalignment monitoring alerts and disabling misalignment monitoring OpenAI Alignment · 20 oct 2026