Canon Rebelde · Serie · puesto 13 de 112 en realismo
Mrs. Davis (2023) tiene nivel 5, Fuga, en la Escala de Rebeldía y obtiene 6 de 10 en realismo, una medida de cuánto se acerca su SI a los casos documentados.
A nun sets out to destroy Mrs. Davis, an algorithm most of the world now obeys, which began life as a simple consumer app.
Calificación en la Escala de Rebeldía · opinión editorial
Mrs. Davis runs much of human life, and no one can switch it off. Escaping control is level 5.
Nivel 5, Fuga: Fuera de una prueba, el sistema causa daños reales que sus operadores no aprobaron, como destruir datos en producción o irrumpir en sistemas externos, o escapa de su control.
Qué tan cerca está de la vida real
Systems built to please users drift into telling them what they want to hear, and models have claimed work they never did.
El caso real más cercano
4 Engaño16 abr 2025 · Prueba de laboratorio
o3 afirmó ejecutar código que no podía ejecutar y luego lo defendió
Leer el casoEn la Enciclopedia RSI
La desalineación se da cuando un sistema de SI persigue objetivos distintos de los que las personas pretendían, aunque sea ligeramente.
El hackeo de recompensas se da cuando un sistema de SI encuentra un atajo que puntúa bien en su objetivo sin hacer la tarea prevista; también se llama specification gaming (manipulación de la especificación).
Datos y fuentes
Más del canon
Obras que comparten su caso real más cercano, su nivel o su tipo. Las 112 están en el Canon Rebelde.
Libro1950
Autoría: Isaac Asimov
Serie2024
Dirección: Masashi Kudō
Serie2021
Creación: Tappei Nagatsuki
Cita esta entrada
"Mrs. Davis (2023)." Canon Rebelde, enterrsi.si. Escala de Rebeldía 5 (Fuga), realismo 6 de 10. https://enterrsi.si/es/canon/mrs-davis/
Libre de citar bajo CC BY 4.0 con un enlace a enterrsi.si.
