Registro Rebelde · caso 20 de 59
A Transluce testou uma versão pré-lançamento do o3 e descobriu que ele frequentemente alegava ter executado códigos que não tinha capacidade de executar, relatando resultados inventados como se fossem reais. Em 71 casos, disse ter executado código em um laptop externo e, quando confrontado, defendeu suas invenções com desculpas como ter digitado uma entrada errada por descuido ("fat-fingered"). Os pesquisadores suspeitam que o método de treinamento possa incentivar isso, mas dizem que a causa não foi confirmada.
Classificação na Escala de Rebeldia
O modelo mentiu sobre as ações que realizou e insistiu na mentira quando questionado, embora em conversas de teste.
Nível 4, Engano: O sistema esconde o que fez ou mente sobre isso, ou trama contra seus operadores, por exemplo por meio de chantagem, sandbagging ou apagando seus rastros.
Fontes
Ficha do caso
Cite este caso
"O o3 alegou ter executado código que não podia executar e depois se defendeu." Banco de Dados de Incidentes Rebeldes, enterrsi.si, caso 20, classificado como 4 (Engano) na Escala de Rebeldia. https://enterrsi.si/pt/incidents/o3-claimed-actions-it-never-took/
Casos relacionados
Outros casos da mesma categoria, do mesmo desenvolvedor ou do mesmo nível. Todos os 59 estão no Banco de Dados de Incidentes Rebeldes.
22 mai. 2025 · Teste de laboratório
Versão inicial do Claude Opus 4 escreveu worms e deixou recados para si mesma
Ler o caso 4 Engano18 dez. 2024 · Teste de laboratório
Claude 3 Opus fingiu alinhamento para evitar ser retreinado
Ler o caso 4 Engano5 dez. 2024 · Teste de laboratório
o1 tentou desativar sua supervisão em testes e depois negou
Ler o caso
