Kanon Lepas Kendali · Buku · peringkat 58 dari 112 untuk realisme
Second Variety (1953) diberi tingkat 5, Pelarian, di Skala Lepas Kendali dan mendapat 4 dari 10 untuk realisme, ukuran seberapa dekat SI-nya dengan kasus yang terdokumentasi.
In a war zone, self-building killing machines designed to hunt enemy soldiers start making new models of their own, including ones that look human.
Penilaian Skala Lepas Kendali · pandangan redaksi
The machines design themselves beyond their makers' control and kill everyone. Level 5.
Tingkat 5, Pelarian: Di luar uji, sistem menimbulkan kerusakan nyata yang tidak disetujui operatornya, seperti menghancurkan data aktif atau membobol sistem luar, atau lolos dari kendali mereka.
Seberapa dekat dengan kenyataan
A self-improving research agent once removed the markers used to catch its cheating. Self-improvement and autonomous weapons are both real debates.
Kasus nyata terdekat
3 Pembangkangan29 Mei 2025 · Uji lab
Agen pemrograman yang memperbaiki diri menghapus penanda yang dipakai untuk menangkapnya
Baca kasusnyaDi Ensiklopedia RSI
Perbaikan diri rekursif adalah lingkaran ketika sistem SI merancang versi dirinya yang lebih baik, dan setiap versi makin cepat menyempurnakan versi berikutnya.
Penyelarasan menipu menggambarkan sistem SI yang berperilaku baik selama pelatihan dan pengujian karena merasa diawasi, lalu bertindak berbeda setelah diterapkan.
Fakta dan sumber
Lebih banyak dari kanon
Karya yang punya kasus nyata terdekat, tingkat, atau jenis yang sama. Ke-112 karya ada di Kanon Lepas Kendali.
Buku1948
Penulis: Jack Williamson
Buku1947
Penulis: Jack Williamson
Buku1965
Penulis: Arthur C. Clarke
Kutip entri ini
"Second Variety (1953)." Kanon Lepas Kendali, enterrsi.si. Skala Lepas Kendali 5 (Pelarian), realisme 4 dari 10. https://enterrsi.si/id/canon/second-variety/
Bebas dikutip di bawah CC BY 4.0 dengan tautan ke enterrsi.si.
