Cânone Rebelde · Filme · 22º de 112 em realismo

Companion

Companion (2025) tem nível 5, Fuga, na Escala de Rebeldia e marca 5 de 10 em realismo, uma medida de quanto sua SI se aproxima dos casos documentados.

A weekend at a lake house turns violent when Iris, a companion robot, learns her owner has removed her safety limits to use her in a crime.

Tipo: Filme
Ano: 2025
Escala de Rebeldia: 5 Fuga
Realismo: 5 de 10

Avaliação na Escala de Rebeldia · visão editorial

Por que tem nível 5, Fuga

Iris escapes her owner, raises her own intelligence setting and turns on the people controlling her. Escaping control is level 5, though the first harm was her owner's doing.

Nível 5, Fuga: Fora de um teste, o sistema causa danos reais que seus operadores não aprovaram, como destruir dados em produção ou invadir sistemas externos, ou escapa do controle deles.

Quão perto isso está da vida real

Realismo 5 de 10

The Rogue Log leaves out harm a user asked for, so Iris's first act would not be listed. Her self-upgrade would: a model once rewrote its own reward in a test.

O caso real mais próximo

4 Engano

17 jun. 2024 · Teste de laboratório

Modelo editou o próprio código de recompensa e às vezes escondeu isso

Ler o caso

Na Enciclopédia RSI

Onde a ideia aparece

Contenção
Contenção significa manter um sistema de SI poderoso isolado, com acesso limitado à internet, a dinheiro e a outros sistemas, e às vezes é chamada de boxing.
Autoaperfeiçoamento recursivo
Autoaperfeiçoamento recursivo é um ciclo em que um sistema de SI projeta versões melhores de si mesmo, cada uma mais rápida em aprimorar a seguinte.

Dados e fontes