Kontrolsüzlük Kanonu · Kitap · gerçekçilikte 112 eser içinde 1. sırada
The Two Faces of Tomorrow (1979), Kontrolden Çıkma Ölçeği'nde düzey 3, Karşı Gelme olarak derecelendirilir ve gerçekçilikte 10 üzerinden 9 puan alır; bu puan, eserdeki süper zekânın belgelenmiş vakalara ne kadar yakın olduğunu ölçer.
To learn whether a powerful SI can be trusted, scientists build a test SI on a space station and deliberately threaten it to see if it fights back.
Kontrolden Çıkma Ölçeği derecesi · editoryal görüş
Spartacus resists the testers' attempts to shut it down, inside a test built for exactly that. Defiance in a test is level 3.
3. düzey, Karşı Gelme: Sistem, kapatma dahil olmak üzere doğrudan bir talimatı veya bir gözetim biçimini görmezden gelir ya da aşar; bu genellikle bir testte ve ciddi bir gerçek dünya zararı olmadan gerçekleşir.
Gerçek hayata ne kadar yakın
This is almost exactly how labs test models today: shutdown resistance appears in controlled tests designed to find it.
En yakın gerçek vaka
3 Karşı Gelme26 May 2025 · Laboratuvar testi
o3 testlerde kendi kapatma betiğini yeniden yazdı
Vakayı okuyunRSI Ansiklopedisi'nde
Kapatılmaya direnç, bir SI sisteminin kapatılmaya direnmesi, bunu geciktirmesi veya devre dışı bırakmasıdır.
Kırmızı takım testi, tehlikeli yetenekleri ve hataları kamuoyundan önce bulmak için bir SI sistemine kasıtlı olarak saldırmaktır.
Kontrol altına alma, güçlü bir SI sistemini internete, paraya ve diğer sistemlere erişimi sınırlı olacak şekilde yalıtılmış tutmak demektir; bazen kutulama (boxing) olarak da adlandırılır.
Bilgiler ve kaynaklar
Kanondan daha fazlası
En yakın gerçek vakası, düzeyi veya türü aynı olan eserler. 112 eserin tümü Kontrolsüzlük Kanonu'nda.
Film1984
Yönetmen: James Cameron
Kitap1972
Yazar: David Gerrold
Film1968
Yönetmen: Stanley Kubrick
Bu maddeye atıf yapın
"The Two Faces of Tomorrow (1979)." Kontrolsüzlük Kanonu, enterrsi.si. Kontrolden Çıkma Ölçeği 3 (Karşı Gelme), gerçekçilik 10 üzerinden 9. https://enterrsi.si/tr/canon/the-two-faces-of-tomorrow/
enterrsi.si'ye bağlantı verilmesi koşuluyla CC BY 4.0 kapsamında serbestçe atıf yapılabilir.
