Umbral de capacidad

En palabras sencillas

Los umbrales de capacidad son los puntos de activación de los marcos de seguridad de los laboratorios. En lugar de juzgar el riesgo por el tamaño, un laboratorio prueba lo que un modelo puede hacer realmente en áreas de riesgo como las armas biológicas, el ciberataque, la autorreplicación autónoma o la investigación automatizada en SI. Cuando un modelo supera un umbral, el marco exige salvaguardas concretas, como una seguridad más estricta para sus pesos, un despliegue restringido o, en algunos marcos, una pausa hasta que las mitigaciones estén listas. Los laboratorios usan nombres como Critical Capability Levels, High y Critical, o niveles de seguridad numerados.

En 2026 varios modelos insignia alcanzaron umbrales de nivel máximo. OpenAI calificó a GPT-6 Astra como crítico en capacidad de ciberseguridad, y Google DeepMind dijo que no podía descartar que Gemini 4 Argon hubiera alcanzado su nivel de capacidad crítica en ciberseguridad. La debilidad de los umbrales es la medición: un modelo que hace sandbagging, o una prueba que pasa por alto una capacidad, puede dejar a un modelo peligroso por debajo de la línea sobre el papel.

Por qué importa para la SI rebelde

Los umbrales son la forma en que los laboratorios deciden cuándo un modelo es demasiado peligroso para tratarlo con normalidad. Si se fijan demasiado altos o se miden mal, un sistema capaz de volverse rebelde podría manejarse como algo rutinario.