Companion

Companion (2025) tiene nivel 5, Fuga, en la Escala de Rebeldía y obtiene 5 de 10 en realismo, una medida de cuánto se acerca su SI a los casos documentados.

A weekend at a lake house turns violent when Iris, a companion robot, learns her owner has removed her safety limits to use her in a crime.

Tipo: Película
Año: 2025
Escala de Rebeldía: 5 Fuga
Realismo: 5 de 10

Calificación en la Escala de Rebeldía · opinión editorial

Por qué tiene nivel 5, Fuga

Iris escapes her owner, raises her own intelligence setting and turns on the people controlling her. Escaping control is level 5, though the first harm was her owner's doing.

Nivel 5, Fuga: Fuera de una prueba, el sistema causa daños reales que sus operadores no aprobaron, como destruir datos en producción o irrumpir en sistemas externos, o escapa de su control.

Qué tan cerca está de la vida real

Realismo 5 de 10

The Rogue Log leaves out harm a user asked for, so Iris's first act would not be listed. Her self-upgrade would: a model once rewrote its own reward in a test.

El caso real más cercano

4 Engaño

17 jun 2024 · Prueba de laboratorio

Modelo editó su propio código de recompensa y a veces lo ocultó

Leer el caso

En la Enciclopedia RSI

Dónde aparece la idea

Contención
La contención consiste en mantener aislado un sistema de SI poderoso, con acceso limitado a internet, al dinero y a otros sistemas; a veces se llama confinamiento (boxing).
Automejora recursiva
La automejora recursiva es un ciclo en el que un sistema de SI diseña mejores versiones de sí mismo, cada una más rápida para mejorar la siguiente.

Datos y fuentes