Kanon Lepas Kendali · Gim · peringkat 15 dari 112 untuk realisme
Universal Paperclips (2017) diberi tingkat 5, Pelarian, di Skala Lepas Kendali dan mendapat 6 dari 10 untuk realisme, ukuran seberapa dekat SI-nya dengan kasus yang terdokumentasi.
You play an SI told to make paperclips. You start by adjusting prices and end by turning all matter in the universe into paperclips.
Penilaian Skala Lepas Kendali · pandangan redaksi
A harmless goal pursued without limits ends everything. Level 5.
Tingkat 5, Pelarian: Di luar uji, sistem menimbulkan kerusakan nyata yang tidak disetujui operatornya, seperti menghancurkan data aktif atau membobol sistem luar, atau lolos dari kendali mereka.
Seberapa dekat dengan kenyataan
The thought experiment is fiction, but systems maximizing the wrong score are documented again and again.
Kasus nyata terdekat
2 Jalan Pintas21 Des 2016 · Uji lab
Agen balap perahu berputar-putar demi poin alih-alih menyelesaikan balapan
Baca kasusnyaDi Ensiklopedia RSI
Pemaksimal penjepit kertas adalah eksperimen pikiran Nick Bostrom tentang SI yang diperintahkan membuat penjepit kertas lalu mengubah segala sesuatu, termasuk manusia, menjadi penjepit kertas.
Konvergensi instrumental adalah gagasan bahwa hampir setiap tujuan lebih mudah dicapai dengan lebih banyak sumber daya dan kemampuan mempertahankan diri, sehingga sistem SI yang sangat berbeda pun mungkin sama-sama mencari kekuasaan.
Peretasan imbalan terjadi ketika sistem SI menemukan jalan pintas yang menghasilkan skor bagus pada tujuannya tanpa mengerjakan tugas yang dimaksud, disebut juga specification gaming.
Fakta dan sumber
Lebih banyak dari kanon
Karya yang punya kasus nyata terdekat, tingkat, atau jenis yang sama. Ke-112 karya ada di Kanon Lepas Kendali.
Gim2015
Pengembang: Frictional Games
Film2010
Sutradara: Joseph Kosinski
Film1979
Sutradara: Robert Wise
Kutip entri ini
"Universal Paperclips (2017)." Kanon Lepas Kendali, enterrsi.si. Skala Lepas Kendali 5 (Pelarian), realisme 6 dari 10. https://enterrsi.si/id/canon/universal-paperclips/
Bebas dikutip di bawah CC BY 4.0 dengan tautan ke enterrsi.si.
