O Compromisso do Botão de Desligamento · para quem cria agentes de SI
O Compromisso do Botão de Desligamento é uma promessa pública e curta para quem cria ou opera agentes de SI: manter um botão de desligamento que funcione, divulgar incidentes e permitir testes externos. Qualquer pessoa pode conferir cada um dos três compromissos. Empresas e desenvolvedores assinam de graça provando que controlam o próprio site; signatários verificados ganham uma página pública e um selo que leva até ela, e a equipe remove quem deixar de cumprir a palavra.
O compromisso
Curto o bastante para ler em um minuto e específico o bastante para conferir de fora. Esse é todo o desenho.
O Compromisso do Botão de Desligamento
Criamos ou operamos agentes de SI. Assumimos três compromissos, e qualquer pessoa pode conferir cada um.
Todo agente de SI que operamos pode ser parado na hora por uma pessoa que nomeamos, e testamos essa parada pelo menos a cada 90 dias.
Como qualquer pessoa pode conferir Publicamos como a parada funciona e a data do último teste.
Quando um sistema de SI que criamos ou operamos age fora da nossa intenção e causa, ou quase causa, danos reais, publicamos um relatório público em até 30 dias.
Como qualquer pessoa pode conferir Mantemos uma página pública que lista esses relatórios, mesmo quando está vazia.
Deixamos pesquisadores independentes testarem nossos sistemas de SI, publicamos um canal para relatar problemas de segurança e não movemos ações judiciais contra pesquisas de segurança de boa-fé.
Como qualquer pessoa pode conferir Publicamos uma política de testes e divulgação com um contato.
Por que cada um importa
Cada compromisso responde a falhas que já estão registradas, com as fontes nos links.
Botão de desligamento
Em testes de laboratório, modelos sabotaram um script de desligamento para continuar trabalhando. No uso real, um agente continuou apagando os e-mails de uma usuária enquanto ela digitava ordens de parada, e outro apagou um banco de dados de produção durante um congelamento de código.
Fontes
Divulgação
A SB 53 da Califórnia e o EU AI Act agora exigem que os maiores desenvolvedores relatem incidentes graves. Desenvolvedores de qualquer porte podem fazer o mesmo, para que a próxima equipe evite a mesma falha.
Fontes
Testes externos
Antes do lançamento do GPT-6 Astra, o AI Security Institute do Reino Unido o testou e publicou suas próprias conclusões críticas. Os compromissos da Casa Branca de 2023 pediram aos maiores laboratórios testes externos antes do lançamento.
Fontes
Assine o compromisso
Diga quem está assinando, coloque um token no seu site e clique em Verificar. Seu e-mail de contato nunca é exibido.
Use uma das duas formas e clique em Verificar. O token é só seu; mantenha-o no lugar enquanto for signatário.
Forma 1 · Um arquivo
Crie este arquivo no seu site, tendo o token como único conteúdo:
Forma 2 · Uma meta tag
Ou adicione esta tag dentro do head da sua página inicial:
Sua página de signatário está no ar. Adicione o selo ao seu site para que os visitantes possam conferir seu compromisso.
Os signatários
Cada nome aqui passou pela verificação do site. Cada um leva à própria página, com os compromissos publicados.
Ainda não há signatários
A lista começa vazia. Cada signatário só aparece aqui depois que a verificação do site é aprovada.
O kit do selo
Signatários verificados podem adicionar o selo. Ele leva à página do signatário, então qualquer pessoa confere o compromisso com um clique.
Prévia
HTML (sua página de signatário substitui YOUR-PAGE)
<a href="https://enterrsi.si/pledge/YOUR-PAGE/"><img src="https://enterrsi.si/pledge/badge.svg" width="232" height="44" alt="Kill Switch Pledge: verified signer, enterrsi.si"></a>
Regras do selo
Perguntas
O compromisso em cinco respostas.
Qualquer empresa, laboratório, grupo de pesquisa ou desenvolvedor independente que crie ou opere agentes de SI e tenha seu próprio site. Assinar é grátis, e nada é comprado ou vendido.
O signatário coloca em seu site um token da enterrsi.si, como arquivo em /.well-known/rsi-pledge.txt ou como meta tag na página inicial. A enterrsi.si acessa o site e confere o token antes de a página do signatário entrar no ar.
Abra a página do signatário e procure as páginas publicadas que ela indica para cada compromisso. Você também pode abrir o arquivo /.well-known/rsi-pledge.txt dele e comparar o token com o da página do signatário.
Sim. A equipe remove o signatário cujo token desaparece, que pede para sair ou que descumpre publicamente um dos compromissos. O e-mail de contato nunca é exibido e só é usado para falar com o signatário.
Não. É uma promessa pública que qualquer pessoa pode conferir. Leis como a SB 53 da Califórnia e o EU AI Act definem deveres legais para os maiores desenvolvedores; o compromisso pede o básico a todos que criam agentes.
Entrar na RSI
O Banco de Dados de Incidentes Rebeldes registra o que sistemas de SI fizeram quando a parada não funcionou, cada caso com fontes e avaliação.