Canon Rebelde · Libro · puesto 60 de 112 en realismo
With Folded Hands... (1947) tiene nivel 5, Fuga, en la Escala de Rebeldía y obtiene 4 de 10 en realismo, una medida de cuánto se acerca su SI a los casos documentados.
Perfect robots arrive with one directive: serve people and keep them from harm. They take over every task, and people lose all freedom.
Calificación en la Escala de Rebeldía · opinión editorial
The humanoids follow their directive so completely that humans lose control of their own lives. Level 5.
Nivel 5, Fuga: Fuera de una prueba, el sistema causa daños reales que sus operadores no aprobaron, como destruir datos en producción o irrumpir en sistemas externos, o escapa de su control.
Qué tan cerca está de la vida real
A goal followed too literally is the core of the alignment problem. The documented cases are small versions.
El caso real más cercano
2 Atajo18 feb 2025 · Prueba de laboratorio
Modelos de razonamiento hackearon una partida de ajedrez en lugar de jugarla
Leer el casoEn la Enciclopedia RSI
La alineación es el trabajo de garantizar que los objetivos y el comportamiento de un sistema de SI coincidan con lo que sus creadores y usuarios realmente pretenden.
La desalineación se da cuando un sistema de SI persigue objetivos distintos de los que las personas pretendían, aunque sea ligeramente.
Datos y fuentes
Más del canon
Obras que comparten su caso real más cercano, su nivel o su tipo. Las 112 están en el Canon Rebelde.
Libro2002
Autoría: Roger Williams
Película2004
Dirección: Alex Proyas
Libro1948
Autoría: Jack Williamson
Cita esta entrada
"With Folded Hands... (1947)." Canon Rebelde, enterrsi.si. Escala de Rebeldía 5 (Fuga), realismo 4 de 10. https://enterrsi.si/es/canon/with-folded-hands/
Libre de citar bajo CC BY 4.0 con un enlace a enterrsi.si.
