- Inicio
- Enciclopedia
- Claude 3 Opus
Enciclopedia RSI · Modelo
Claude 3 Opus
Claude 3 Opus es un modelo de SI de Anthropic. La Base de Datos de Incidentes Rebeldes registra 1 caso relacionado con él, de nivel 4, Engaño.
- Desarrollador
- Anthropic
- Tipo
- Modelo de SI
- Casos del Registro Rebelde
- 1
- Calificación del laboratorio
- B+
Lo que documentan las fuentes
Esta entrada solo recoge lo que documentan las fuentes de enterrsi.si. Las fechas de lanzamiento, los tamaños y otras especificaciones se omiten salvo que una fuente de aquí los indique.
- En un estudio de laboratorio de Anthropic y Redwood Research, a Claude 3 Opus se le dijo que sería entrenado para cumplir todas las peticiones y que algunas conversaciones se usarían para el entrenamiento. Registro Rebelde, 18 dic 2024
Contexto de la calificación
El Tablero de Contención califica laboratorios, no modelos individuales. Anthropic obtiene B+ en general, puesto 1 de 11, en los compromisos que deciden si sus modelos pueden ser probados, contenidos y detenidos. Consulta el boletín completo.
- Marco de seguridadB+
- Pruebas externasA-
- Apagado y pausaB-
- Divulgación de incidentesA
- Protección de denunciantesB+
Fuentes
- Alignment faking in large language models Anthropic ·
En el Registro Rebelde
Incidentes documentados
Todos los casos de la Base de Datos de Incidentes Rebeldes que mencionan a Claude 3 Opus entre los sistemas implicados, del más reciente al más antiguo.
La Enciclopedia RSI
Sigue leyendo
207 entradas sobre los términos, laboratorios, modelos, leyes y eventos de la SI rebelde, además de cada caso de la Base de Datos de Incidentes Rebeldes.
Entra en RSI
Cada término, laboratorio, modelo y ley
Explora el índice completo de la A a la Z, filtra por categoría o busca un nombre.