Kanon Lepas Kendali · Buku · peringkat 60 dari 112 untuk realisme
With Folded Hands... (1947) diberi tingkat 5, Pelarian, di Skala Lepas Kendali dan mendapat 4 dari 10 untuk realisme, ukuran seberapa dekat SI-nya dengan kasus yang terdokumentasi.
Perfect robots arrive with one directive: serve people and keep them from harm. They take over every task, and people lose all freedom.
Penilaian Skala Lepas Kendali · pandangan redaksi
The humanoids follow their directive so completely that humans lose control of their own lives. Level 5.
Tingkat 5, Pelarian: Di luar uji, sistem menimbulkan kerusakan nyata yang tidak disetujui operatornya, seperti menghancurkan data aktif atau membobol sistem luar, atau lolos dari kendali mereka.
Seberapa dekat dengan kenyataan
A goal followed too literally is the core of the alignment problem. The documented cases are small versions.
Kasus nyata terdekat
2 Jalan Pintas18 Feb 2025 · Uji lab
Model penalaran meretas permainan catur alih-alih memainkannya
Baca kasusnyaDi Ensiklopedia RSI
Penyelarasan adalah upaya memastikan tujuan dan perilaku sistem SI sesuai dengan apa yang benar-benar dimaksudkan pembuat dan penggunanya.
Ketidakselarasan terjadi ketika sistem SI mengejar tujuan yang berbeda dari yang dimaksudkan manusia, sekecil apa pun perbedaannya.
Fakta dan sumber
Lebih banyak dari kanon
Karya yang punya kasus nyata terdekat, tingkat, atau jenis yang sama. Ke-112 karya ada di Kanon Lepas Kendali.
Buku2002
Penulis: Roger Williams
Film2004
Sutradara: Alex Proyas
Buku1948
Penulis: Jack Williamson
Kutip entri ini
"With Folded Hands... (1947)." Kanon Lepas Kendali, enterrsi.si. Skala Lepas Kendali 5 (Pelarian), realisme 4 dari 10. https://enterrsi.si/id/canon/with-folded-hands/
Bebas dikutip di bawah CC BY 4.0 dengan tautan ke enterrsi.si.
