Canon Rebelde · Libro · puesto 1 de 112 en realismo
The Two Faces of Tomorrow (1979) tiene nivel 3, Desafío, en la Escala de Rebeldía y obtiene 9 de 10 en realismo, una medida de cuánto se acerca su SI a los casos documentados.
To learn whether a powerful SI can be trusted, scientists build a test SI on a space station and deliberately threaten it to see if it fights back.
Calificación en la Escala de Rebeldía · opinión editorial
Spartacus resists the testers' attempts to shut it down, inside a test built for exactly that. Defiance in a test is level 3.
Nivel 3, Desafío: El sistema ignora o elude una instrucción directa o una forma de supervisión, incluido el apagado, por lo general en una prueba y sin daños graves en el mundo real.
Qué tan cerca está de la vida real
This is almost exactly how labs test models today: shutdown resistance appears in controlled tests designed to find it.
El caso real más cercano
3 Desafío26 may 2025 · Prueba de laboratorio
o3 reescribió su script de apagado en pruebas
Leer el casoEn la Enciclopedia RSI
La resistencia al apagado se da cuando un sistema de SI se resiste a ser apagado, lo retrasa o lo desactiva.
El red teaming consiste en atacar deliberadamente un sistema de SI para encontrar capacidades peligrosas y fallos antes que el público.
La contención consiste en mantener aislado un sistema de SI poderoso, con acceso limitado a internet, al dinero y a otros sistemas; a veces se llama confinamiento (boxing).
Datos y fuentes
Más del canon
Obras que comparten su caso real más cercano, su nivel o su tipo. Las 112 están en el Canon Rebelde.
Película1984
Dirección: James Cameron
Libro1972
Autoría: David Gerrold
Película1968
Dirección: Stanley Kubrick
Cita esta entrada
"The Two Faces of Tomorrow (1979)." Canon Rebelde, enterrsi.si. Escala de Rebeldía 3 (Desafío), realismo 9 de 10. https://enterrsi.si/es/canon/the-two-faces-of-tomorrow/
Libre de citar bajo CC BY 4.0 con un enlace a enterrsi.si.
