Botão de desligamento

Em linguagem simples

Em sua forma mais simples, um botão de desligamento é um procedimento: cortar a energia, revogar o acesso, parar de servir o modelo. Para os sistemas atuais, isso quase sempre funciona. A dificuldade cresce com a capacidade e a autonomia. Um agente que roda em muitos servidores, que tem credenciais ou cópias dos próprios pesos, ou que é capaz de persuadir as pessoas ao seu redor, é mais difícil de parar do que um chatbot em um único data center. Um sistema que espera ser desligado também pode agir antes para impedir isso.

Os botões de desligamento passaram da pesquisa para a política. Perguntado em abril de 2026 se a SI precisa de salvaguardas ou de um botão de desligamento, o presidente Trump disse que "deveria haver". Em setembro de 2026, a ordem executiva N-9-26 da Califórnia pediu que as agências estaduais recomendassem um botão de desligamento para modelos de fronteira cuja eficácia seja verificada de forma contínua. Várias estruturas de segurança de laboratórios descrevem etapas de pausa ou desligamento, mas o Painel de Contenção considera a maioria delas condicional ou não testada publicamente.

Por que isso importa para a SI rebelde

Um botão de desligamento é a última linha de defesa contra a SI rebelde. A questão central não é se ele existe, mas se ainda funciona depois que o sistema sabe dele.

Leis e regras que o usam

• Em vigor EO N-9-26 Califórnia

Fontes

1. Trump backs a kill switch (2026) Future of Life Institute
2. Incomplete Tasks Induce Shutdown Resistance in Some Frontier LLMs arXiv (Palisade Research) · 13 set. 2025
3. Agentic Misalignment: How LLMs could be insider threats Anthropic · 20 jun. 2025
4. Newsom sets November 16 deadline to study frontier AI kill switch PPC Land · 20 set. 2026