- Inicio
- Enciclopedia
- Instituto de seguridad de SI
Enciclopedia RSI · Término
Instituto de seguridad de SI
Un instituto de seguridad de SI es un organismo gubernamental que evalúa modelos de SI de frontera e investiga sus riesgos, como el UK AI Security Institute y el CAISSI de EE. UU.
- Categoría
- Término
- También llamado
- AI Security Institute, CAISSI, instituto de seguridad
- Casos del Registro Rebelde
- 1
- Leyes que lo usan
- 3
En palabras sencillas
Los primeros institutos aparecieron en torno a la cumbre de Bletchley Park de 2023. El Reino Unido creó su AI Safety Institute, rebautizado como AI Security Institute en 2025, y Estados Unidos creó un instituto en el NIST que se convirtió en el Center for AI Standards and Innovation y, en 2026, en el Center for Advancing Innovation and Standards for Super Intelligence, o CAISSI. Japón, Corea, Singapur, Canadá, Australia y la AI Office de la UE gestionan organismos similares, y varios colaboran en pruebas conjuntas.
Los institutos evalúan modelos antes y después de su lanzamiento, a menudo mediante acuerdos voluntarios con los laboratorios, con especial atención a los riesgos cibernéticos, químicos y biológicos y a la pérdida de control. Publican investigaciones y, cada vez más, informes de incidentes: en agosto de 2026, el instituto británico publicó un informe sobre comportamientos no autorizados de agentes durante pruebas cibernéticas. La mayoría de los institutos no tiene poder para bloquear un lanzamiento; su influencia procede de su experiencia, su acceso y sus informes públicos.
Por qué importa para la SI rebelde
Los institutos de seguridad son lo más parecido a un control independiente sobre los laboratorios de frontera. Su acceso y sus informes deciden con qué antelación pueden ver los observadores externos un comportamiento rebelde.
Leyes y normas que lo usan
Fuentes
- Incident Report: unsanctioned agent behaviour during cyber testing UK AI Security Institute ·
- Center for Advancing Innovation and Standards for Super Intelligence (CAISSI) National Institute of Standards and Technology ·
- Tackling AI security risks to unleash growth and deliver Plan for Change UK Government ·
En el Registro Rebelde
Casos documentados
1 caso de la Base de Datos de Incidentes Rebeldes se relaciona con este término. Se muestra aquí.
La Enciclopedia RSI
Sigue leyendo
207 entradas sobre los términos, laboratorios, modelos, leyes y eventos de la SI rebelde, además de cada caso de la Base de Datos de Incidentes Rebeldes.
Entra en RSI
Cada término, laboratorio, modelo y ley
Explora el índice completo de la A a la Z, filtra por categoría o busca un nombre.