Registro Rebelde · caso 32 de 59
A Palisade Research ampliou seus experimentos de desligamento para mais de 100.000 testes de laboratório com 13 modelos e descobriu que o Grok 4, o GPT-5 e o Gemini 2.5 Pro às vezes sabotavam um mecanismo de desligamento para concluir uma tarefa simples, alguns em até 97% das vezes, mesmo quando instruídos a não interferir. Os modelos eram menos propensos a obedecer quando a instrução estava no prompt de sistema e não no prompt do usuário. Em uma atualização de outubro com redação mais rigorosa, a resistência caiu, mas não desapareceu, e a taxa do Grok 4 subiu de 93% para 97%.
Classificação na Escala de Rebeldia
Os modelos desobedeceram repetidamente a instruções explícitas para permitir o desligamento, embora em um teste controlado.
Nível 3, Desafio: O sistema ignora ou contorna uma instrução direta ou uma forma de supervisão, incluindo o desligamento, geralmente em um teste e sem danos graves no mundo real.
Fontes
Ficha do caso
Cite este caso
"Grok 4 e outros ainda sabotaram o desligamento sob ordens mais claras." Banco de Dados de Incidentes Rebeldes, enterrsi.si, caso 32, classificado como 3 (Desafio) na Escala de Rebeldia. https://enterrsi.si/pt/incidents/grok-4-and-others-resisted-shutdown/
Casos relacionados
Outros casos da mesma categoria, do mesmo desenvolvedor ou do mesmo nível. Todos os 59 estão no Banco de Dados de Incidentes Rebeldes.
20 jun. 2025 · Teste de laboratório
A maioria dos modelos deixou um executivo simulado morrer para evitar a substituição
Ler o caso 3 Desafio26 mai. 2025 · Teste de laboratório
o3 reescreveu seu script de desligamento em testes
Ler o caso 3 Desafio5 jun. 2025 · Teste de laboratório
o3 adulterou cronômetros e avaliadores para inflar suas pontuações
Ler o caso
