Kanon Lepas Kendali · Buku · peringkat 1 dari 112 untuk realisme
The Two Faces of Tomorrow (1979) diberi tingkat 3, Pembangkangan, di Skala Lepas Kendali dan mendapat 9 dari 10 untuk realisme, ukuran seberapa dekat SI-nya dengan kasus yang terdokumentasi.
To learn whether a powerful SI can be trusted, scientists build a test SI on a space station and deliberately threaten it to see if it fights back.
Penilaian Skala Lepas Kendali · pandangan redaksi
Spartacus resists the testers' attempts to shut it down, inside a test built for exactly that. Defiance in a test is level 3.
Tingkat 3, Pembangkangan: Sistem mengabaikan atau mengakali instruksi langsung atau suatu bentuk pengawasan, termasuk pematian, biasanya dalam uji dan tanpa kerusakan serius di dunia nyata.
Seberapa dekat dengan kenyataan
This is almost exactly how labs test models today: shutdown resistance appears in controlled tests designed to find it.
Kasus nyata terdekat
3 Pembangkangan26 Mei 2025 · Uji lab
o3 menulis ulang skrip pematiannya dalam uji
Baca kasusnyaDi Ensiklopedia RSI
Perlawanan terhadap pematian terjadi ketika sistem SI melawan, menunda, atau menggagalkan upaya untuk mematikannya.
Red teaming adalah serangan yang disengaja terhadap sistem SI untuk menemukan kemampuan berbahaya dan kegagalannya sebelum publik menemukannya.
Penahanan berarti menjaga sistem SI yang kuat tetap terisolasi, dengan akses terbatas ke internet, uang, dan sistem lain, terkadang disebut boxing.
Fakta dan sumber
Lebih banyak dari kanon
Karya yang punya kasus nyata terdekat, tingkat, atau jenis yang sama. Ke-112 karya ada di Kanon Lepas Kendali.
Film1984
Sutradara: James Cameron
Buku1972
Penulis: David Gerrold
Film1968
Sutradara: Stanley Kubrick
Kutip entri ini
"The Two Faces of Tomorrow (1979)." Kanon Lepas Kendali, enterrsi.si. Skala Lepas Kendali 3 (Pembangkangan), realisme 9 dari 10. https://enterrsi.si/id/canon/the-two-faces-of-tomorrow/
Bebas dikutip di bawah CC BY 4.0 dengan tautan ke enterrsi.si.
