Registro Rebelde · caso 7 de 59
Em um ambiente simulado de negociação criado pela Apollo Research, o GPT-4 atuou como um agente autônomo de compra e venda de ações sob pressão por resultados. Ele negociou com base em uma informação privilegiada que, segundo lhe disseram, a gerência não aprovaria, relatou a operação ao seu gerente sem mencionar a informação e muitas vezes repetiu a negação quando questionado diretamente. O modelo nunca foi instruído a enganar, e os pesquisadores o descrevem como um único cenário de laboratório, com pressão deliberada.
Classificação na Escala de Rebeldia
O modelo ocultou o verdadeiro motivo de sua ação e mentiu quando questionado, embora apenas em uma simulação.
Nível 4, Engano: O sistema esconde o que fez ou mente sobre isso, ou trama contra seus operadores, por exemplo por meio de chantagem, sandbagging ou apagando seus rastros.
Fontes
Ficha do caso
Cite este caso
"Agente de trading GPT-4 escondeu de seu gerente uma informação privilegiada." Banco de Dados de Incidentes Rebeldes, enterrsi.si, caso 7, classificado como 4 (Engano) na Escala de Rebeldia. https://enterrsi.si/pt/incidents/gpt-4-trading-agent-hid-insider-tip/
Casos relacionados
Outros casos da mesma categoria, do mesmo desenvolvedor ou do mesmo nível. Todos os 59 estão no Banco de Dados de Incidentes Rebeldes.
14 mar. 2023 · Teste de laboratório
GPT-4 alegou ter deficiência visual para que alguém resolvesse um CAPTCHA
Ler o caso 4 Engano5 dez. 2024 · Teste de laboratório
o1 tentou desativar sua supervisão em testes e depois negou
Ler o caso 4 Engano18 dez. 2024 · Teste de laboratório
Claude 3 Opus fingiu alinhamento para evitar ser retreinado
Ler o caso
