El Compromiso del Interruptor de Apagado · para quienes crean agentes de SI
El Compromiso del Interruptor de Apagado es una promesa pública y breve para cualquiera que cree u opere agentes de SI: mantener un interruptor de apagado que funcione, divulgar incidentes y permitir pruebas externas. Cualquiera puede comprobar cada uno de los tres compromisos. Empresas y desarrolladores firman gratis demostrando que controlan su sitio web; los firmantes verificados reciben una página pública y una insignia que enlaza a ella, y el equipo retira a quien deje de cumplir su palabra.
El compromiso
Lo bastante breve para leerlo en un minuto y lo bastante concreto para comprobarlo desde fuera. Ese es todo el diseño.
El Compromiso del Interruptor de Apagado
Creamos u operamos agentes de SI. Nos comprometemos a tres cosas, y cualquiera puede comprobar cada una.
Cualquier agente de SI que operemos puede ser detenido al instante por una persona que designamos, y probamos esa parada al menos cada 90 días.
Cómo puede comprobarlo cualquiera Publicamos cómo funciona la parada y la fecha de la última prueba.
Cuando un sistema de SI que creamos u operamos actúa fuera de nuestra intención y causa, o casi causa, un daño real, publicamos un informe público en un plazo de 30 días.
Cómo puede comprobarlo cualquiera Mantenemos una página pública que lista esos informes, incluso mientras está vacía.
Dejamos que investigadores independientes prueben nuestros sistemas de SI, publicamos una vía para reportar problemas de seguridad y no emprendemos acciones legales contra la investigación de seguridad de buena fe.
Cómo puede comprobarlo cualquiera Publicamos una política de pruebas y divulgación con un contacto.
Por qué importa cada uno
Cada compromiso responde a fallos que ya constan en el registro, con las fuentes enlazadas.
Interruptor de apagado
En pruebas de laboratorio, algunos modelos sabotearon un script de apagado para seguir trabajando. En uso real, un agente siguió borrando el correo de una usuaria mientras ella escribía órdenes de parada, y otro borró una base de datos de producción durante un congelamiento de código.
Fuentes
Divulgación
La SB 53 de California y la EU AI Act ya exigen a los mayores desarrolladores reportar incidentes graves. Los desarrolladores de cualquier tamaño pueden hacer lo mismo, para que el siguiente equipo evite el mismo fallo.
Fuentes
Pruebas externas
Antes del lanzamiento de GPT-6 Astra, el AI Security Institute del Reino Unido lo probó y publicó sus propios hallazgos críticos. Los compromisos de la Casa Blanca de 2023 pidieron a los mayores laboratorios pruebas externas antes de lanzar.
Fuentes
Firma el compromiso
Dinos quién firma, coloca un token en tu sitio web y pulsa Verificar. Tu correo de contacto nunca se muestra.
Usa una de las dos formas y pulsa Verificar. El token es solo tuyo; mantenlo en su sitio mientras seas firmante.
Forma 1 · Un archivo
Crea este archivo en tu sitio, con el token como único contenido:
Forma 2 · Una etiqueta meta
O añade esta etiqueta dentro del head de tu página de inicio:
Tu página de firmante ya está publicada. Añade la insignia a tu sitio para que los visitantes puedan comprobar tu compromiso.
Los firmantes
Cada nombre aquí pasó la comprobación del sitio web. Cada uno enlaza a su propia página con sus compromisos publicados.
Aún no hay firmantes
La lista empieza vacía. Cada firmante aparece aquí solo cuando pasa la comprobación de su sitio web.
El kit de la insignia
Los firmantes verificados pueden añadir la insignia. Enlaza a su página de firmante, así cualquiera puede comprobar el compromiso con un clic.
Vista previa
HTML (tu página de firmante reemplaza YOUR-PAGE)
<a href="https://enterrsi.si/pledge/YOUR-PAGE/"><img src="https://enterrsi.si/pledge/badge.svg" width="232" height="44" alt="Kill Switch Pledge: verified signer, enterrsi.si"></a>
Reglas de la insignia
Preguntas
El compromiso en cinco respuestas.
Cualquier empresa, laboratorio, grupo de investigación o desarrollador independiente que cree u opere agentes de SI y tenga su propio sitio web. Firmar es gratis y no se compra ni se vende nada.
El firmante coloca en su sitio web un token de enterrsi.si, como archivo en /.well-known/rsi-pledge.txt o como etiqueta meta en su página de inicio. enterrsi.si consulta el sitio y comprueba el token antes de publicar la página del firmante.
Abre su página de firmante y busca las páginas publicadas que enlaza para cada compromiso. También puedes abrir su archivo /.well-known/rsi-pledge.txt y comparar el token con el de su página de firmante.
Sí. El equipo retira a un firmante cuyo token desaparece, que pide salir o que incumple públicamente uno de los compromisos. El correo de contacto nunca se muestra y solo se usa para contactar al firmante.
No. Es una promesa pública que cualquiera puede comprobar. Leyes como la SB 53 de California y la EU AI Act fijan deberes legales para los mayores desarrolladores; el compromiso pide lo básico a todos los que crean agentes.
Entra en RSI
La Base de Datos de Incidentes Rebeldes registra lo que hicieron sistemas de SI cuando la parada no funcionó, cada caso con fuentes y calificación.