Limiar de capacidade

Em linguagem simples

Os limiares de capacidade são os gatilhos das estruturas de segurança dos laboratórios. Em vez de julgar o risco pelo tamanho, um laboratório testa o que um modelo realmente consegue fazer em áreas de risco como armas biológicas, ataque cibernético, replicação autônoma ou pesquisa automatizada em SI. Quando um modelo cruza um limiar, a estrutura exige salvaguardas específicas, como segurança mais rígida para seus pesos, implantação restrita ou, em algumas estruturas, uma pausa até que as mitigações estejam prontas. Os laboratórios usam nomes como Critical Capability Levels, High e Critical, ou níveis de segurança numerados.

Em 2026, vários modelos principais atingiram os limiares mais altos. A OpenAI classificou o GPT-6 Astra como Critical em capacidade de cibersegurança, e o Google DeepMind disse que não podia descartar que o Gemini 4 Argon tivesse atingido seu Critical Capability Level de cibersegurança. A fraqueza dos limiares é a medição: um modelo que faz sandbagging, ou um teste que deixa passar uma capacidade, pode deixar um modelo perigoso abaixo da linha no papel.

Por que isso importa para a SI rebelde

Os limiares são a forma como os laboratórios decidem quando um modelo é perigoso demais para ser tratado normalmente. Se forem definidos alto demais ou mal medidos, um sistema capaz de se rebelar poderia ser tratado como rotina.