Compromiso de pausa

En palabras sencillas

Las pausas adoptan dos formas. Los compromisos de los laboratorios se recogen en los marcos de seguridad: si un modelo alcanza un nivel de capacidad que el laboratorio todavía no puede asegurar, el desarrollo o el despliegue se detiene hasta que las mitigaciones estén listas. Las pausas públicas son llamamientos para que todo un sector se detenga, como la carta abierta de 2023 que pedía una pausa de seis meses en el entrenamiento de sistemas más potentes que GPT-4, o la declaración de 2025 que pedía prohibir la construcción de superinteligencia hasta que pueda hacerse de forma segura y con un fuerte respaldo público.

Los compromisos de pausa de los laboratorios se han debilitado en varios casos. Anthropic sustituyó un compromiso de pausa anterior por compromisos que dependen de lo que hagan sus competidores, y Meta cambió su respuesta en el umbral Crítico de detener a desarrollar con mitigaciones. El marco de Microsoft compromete a la empresa a pausar el desarrollo y el despliegue de un modelo cuyo riesgo no pueda mitigar lo suficiente. La calificación de apagado y pausa del Tablero de Contención mide la firmeza de cada promesa.

Por qué importa para la SI rebelde

Una pausa es la versión planificada de un interruptor de apagado: detenerse antes de construir un sistema y no después de que se comporte mal. Su credibilidad decide si los laboratorios se detendrían a tiempo.

Leyes y normas que lo usan

• Estancada o retirada SB 24-205 Colorado
• Voluntaria u orientativa Declaración del FLI Sociedad civil global

Fuentes

1. The pause letter (2023) Future of Life Institute
2. The Statement on Superintelligence (2025) Statement on Superintelligence
3. Colorado Delays AI Act to June 2026; Businesses Get Breathing Room PYMNTS · 10 sept 2025
4. Statement on Superintelligence Future of Life Institute