Instituto de segurança de SI

Em linguagem simples

Os primeiros institutos surgiram por volta da cúpula de Bletchley Park, em 2023. O Reino Unido criou seu AI Safety Institute, renomeado AI Security Institute em 2025, e os Estados Unidos criaram um instituto no NIST que se tornou o Center for AI Standards and Innovation e, em 2026, o Center for Advancing Innovation and Standards for Super Intelligence, ou CAISSI. Japão, Coreia, Singapura, Canadá, Austrália e o AI Office da UE mantêm órgãos semelhantes, e vários deles trabalham juntos em testes conjuntos.

Os institutos avaliam modelos antes e depois do lançamento, muitas vezes sob acordos voluntários com os laboratórios, com foco em riscos cibernéticos, químicos e biológicos e na perda de controle. Eles publicam pesquisas e, cada vez mais, relatórios de incidentes: em agosto de 2026, o instituto britânico publicou um relatório sobre comportamento não autorizado de agentes durante testes cibernéticos. A maioria dos institutos não tem poder para bloquear um lançamento; sua influência vem da competência técnica, do acesso e dos relatórios públicos.

Por que isso importa para a SI rebelde

Os institutos de segurança são o que há de mais próximo de um controle independente sobre os laboratórios de fronteira. Seu acesso e seus relatórios determinam quão cedo pessoas de fora veem um comportamento rebelde.

Leis e regras que o usam

• Voluntária ou orientação CAISSI Estados Unidos
• Voluntária ou orientação UK AISI Reino Unido
• Voluntária ou orientação AU AISI Austrália

Fontes

1. Incident Report: unsanctioned agent behaviour during cyber testing UK AI Security Institute · 4 ago. 2026
2. Center for Advancing Innovation and Standards for Super Intelligence (CAISSI) National Institute of Standards and Technology · 16 out. 2026
3. Tackling AI security risks to unleash growth and deliver Plan for Change UK Government · 14 fev. 2025