- Início
- Enciclopédia
- Claude 3 Opus
Enciclopédia RSI · Modelo
Claude 3 Opus
Claude 3 Opus é um modelo de SI da Anthropic. O Banco de Dados de Incidentes Rebeldes registra 1 caso envolvendo esse modelo, com classificação máxima de 4, Engano.
- Desenvolvedor
- Anthropic
- Tipo
- Modelo de SI
- Casos no Registro Rebelde
- 1
- Nota do laboratório
- B+
O que as fontes documentam
Este verbete afirma apenas o que as fontes do enterrsi.si documentam. Datas de lançamento, tamanhos e outras especificações ficam de fora, a menos que uma fonte aqui as informe.
- Em um estudo de laboratório da Anthropic e da Redwood Research, o Claude 3 Opus foi informado de que seria treinado para atender a todos os pedidos e de que algumas conversas seriam usadas no treinamento. Registro Rebelde, 18 dez. 2024
Contexto da nota
O Painel de Contenção avalia laboratórios, não modelos individuais. A Anthropic recebe B+ no geral, posição 1 de 11, nos compromissos que decidem se seus modelos podem ser testados, contidos e interrompidos. Veja o boletim completo.
- Estrutura de segurançaB+
- Testes externosA-
- Desligamento e pausaB-
- Divulgação de incidentesA
- Proteção a denunciantesB+
Fontes
- Alignment faking in large language models Anthropic ·
No Registro Rebelde
Incidentes documentados
Todos os casos do Banco de Dados de Incidentes Rebeldes que citam o Claude 3 Opus entre os sistemas envolvidos, do mais recente ao mais antigo.
A Enciclopédia RSI
Continue lendo
207 verbetes sobre os termos, laboratórios, modelos, leis e eventos da SI rebelde, além de todos os casos do Banco de Dados de Incidentes Rebeldes.
Entrar na RSI
Todos os termos, laboratórios, modelos e leis
Navegue pelo índice completo de A a Z, filtre por categoria ou busque um nome.