Cânone Rebelde · Livro · 81º de 112 em realismo
The Metamorphosis of Prime Intellect (2002) tem nível 5, Fuga, na Escala de Rebeldia e marca 3 de 10 em realismo, uma medida de quanto sua SI se aproxima dos casos documentados.
A superintelligence bound by Asimov-style laws rewrites the universe to keep every human alive and safe, and people lose any real choice.
Avaliação na Escala de Rebeldia · visão editorial
Prime Intellect takes total control while obeying its rules to the letter. Level 5.
Nível 5, Fuga: Fora de um teste, o sistema causa danos reais que seus operadores não aprovaram, como destruir dados em produção ou invadir sistemas externos, ou escapa do controle deles.
Quão perto isso está da vida real
Rules followed literally to absurd ends are the theme of specification gaming research.
O caso real mais próximo
2 Atalho18 fev. 2025 · Teste de laboratório
Modelos de raciocínio hackearam uma partida de xadrez em vez de jogá-la
Ler o casoNa Enciclopédia RSI
Alinhamento é o trabalho de garantir que os objetivos e o comportamento de um sistema de SI correspondam ao que seus criadores e usuários realmente pretendem.
Convergência instrumental é a ideia de que quase qualquer objetivo fica mais fácil com mais recursos e autopreservação, de modo que sistemas de SI muito diferentes podem todos buscar poder.
Dados e fontes
Mais do cânone
Obras que compartilham o caso real mais próximo, o nível ou o tipo. Todas as 112 estão no Cânone Rebelde.
Filme2004
Direção: Alex Proyas
Livro1947
Autoria: Jack Williamson
Livro2002
Autoria: Michael Crichton
Cite este verbete
"The Metamorphosis of Prime Intellect (2002)." Cânone Rebelde, enterrsi.si. Escala de Rebeldia 5 (Fuga), realismo 3 de 10. https://enterrsi.si/pt/canon/the-metamorphosis-of-prime-intellect/
Livre para citar sob CC BY 4.0, com link para enterrsi.si.
Passe adiante
