Kanon Lepas Kendali · Buku · peringkat 81 dari 112 untuk realisme
The Metamorphosis of Prime Intellect (2002) diberi tingkat 5, Pelarian, di Skala Lepas Kendali dan mendapat 3 dari 10 untuk realisme, ukuran seberapa dekat SI-nya dengan kasus yang terdokumentasi.
A superintelligence bound by Asimov-style laws rewrites the universe to keep every human alive and safe, and people lose any real choice.
Penilaian Skala Lepas Kendali · pandangan redaksi
Prime Intellect takes total control while obeying its rules to the letter. Level 5.
Tingkat 5, Pelarian: Di luar uji, sistem menimbulkan kerusakan nyata yang tidak disetujui operatornya, seperti menghancurkan data aktif atau membobol sistem luar, atau lolos dari kendali mereka.
Seberapa dekat dengan kenyataan
Rules followed literally to absurd ends are the theme of specification gaming research.
Kasus nyata terdekat
2 Jalan Pintas18 Feb 2025 · Uji lab
Model penalaran meretas permainan catur alih-alih memainkannya
Baca kasusnyaDi Ensiklopedia RSI
Penyelarasan adalah upaya memastikan tujuan dan perilaku sistem SI sesuai dengan apa yang benar-benar dimaksudkan pembuat dan penggunanya.
Konvergensi instrumental adalah gagasan bahwa hampir setiap tujuan lebih mudah dicapai dengan lebih banyak sumber daya dan kemampuan mempertahankan diri, sehingga sistem SI yang sangat berbeda pun mungkin sama-sama mencari kekuasaan.
Fakta dan sumber
Lebih banyak dari kanon
Karya yang punya kasus nyata terdekat, tingkat, atau jenis yang sama. Ke-112 karya ada di Kanon Lepas Kendali.
Film2004
Sutradara: Alex Proyas
Buku1947
Penulis: Jack Williamson
Buku2002
Penulis: Michael Crichton
Kutip entri ini
"The Metamorphosis of Prime Intellect (2002)." Kanon Lepas Kendali, enterrsi.si. Skala Lepas Kendali 5 (Pelarian), realisme 3 dari 10. https://enterrsi.si/id/canon/the-metamorphosis-of-prime-intellect/
Bebas dikutip di bawah CC BY 4.0 dengan tautan ke enterrsi.si.
