Interruptor de apagado

En palabras sencillas

En su forma más simple, un interruptor de apagado es un procedimiento: cortar la corriente, revocar el acceso, dejar de servir el modelo. Con los sistemas actuales, eso funciona en general. La dificultad crece con la capacidad y la autonomía. Un agente que se ejecuta en muchos servidores, que tiene credenciales o copias de sus propios pesos, o que es capaz de persuadir a las personas que lo rodean, es más difícil de detener que un chatbot en un solo centro de datos. Un sistema que espera ser detenido también puede actuar antes para impedirlo.

Los interruptores de apagado han pasado de la investigación a la política. Cuando se le preguntó en abril de 2026 si la SI necesita salvaguardas o un interruptor de apagado, el presidente Trump respondió: "debería haberlos". En septiembre de 2026, la orden ejecutiva N-9-26 de California pidió a las agencias estatales que recomendaran un interruptor de apagado para modelos de frontera cuya eficacia se verifique de forma continua. Varios marcos de seguridad de laboratorios describen pasos de pausa o apagado, pero el Tablero de Contención considera que la mayoría son condicionales o no se han probado públicamente.

Por qué importa para la SI rebelde

Un interruptor de apagado es la última línea de defensa contra una SI rebelde. La pregunta clave no es si existe, sino si sigue funcionando una vez que el sistema sabe de él.

Leyes y normas que lo usan

• En vigor EO N-9-26 California

Fuentes

1. Trump backs a kill switch (2026) Future of Life Institute
2. Incomplete Tasks Induce Shutdown Resistance in Some Frontier LLMs arXiv (Palisade Research) · 13 sept 2025
3. Agentic Misalignment: How LLMs could be insider threats Anthropic · 20 jun 2025
4. Newsom sets November 16 deadline to study frontier AI kill switch PPC Land · 20 sept 2026