Kontrolsüzlük Kanonu · Kitap · gerçekçilikte 112 eser içinde 60. sırada
With Folded Hands... (1947), Kontrolden Çıkma Ölçeği'nde düzey 5, Kaçış olarak derecelendirilir ve gerçekçilikte 10 üzerinden 4 puan alır; bu puan, eserdeki süper zekânın belgelenmiş vakalara ne kadar yakın olduğunu ölçer.
Perfect robots arrive with one directive: serve people and keep them from harm. They take over every task, and people lose all freedom.
Kontrolden Çıkma Ölçeği derecesi · editoryal görüş
The humanoids follow their directive so completely that humans lose control of their own lives. Level 5.
5. düzey, Kaçış: Test dışında sistem, operatörlerinin onaylamadığı gerçek bir zarara yol açar (örneğin canlı verileri yok eder veya dış sistemlere sızar) ya da onların kontrolünden kaçar.
Gerçek hayata ne kadar yakın
A goal followed too literally is the core of the alignment problem. The documented cases are small versions.
En yakın gerçek vaka
2 Kestirme18 Şub 2025 · Laboratuvar testi
Akıl yürütme modelleri bir satranç oyununu oynamak yerine hackledi
Vakayı okuyunRSI Ansiklopedisi'nde
Hizalama, bir SI sisteminin hedeflerinin ve davranışının, yapıcılarının ve kullanıcılarının gerçekten amaçladığıyla örtüşmesini sağlama çalışmasıdır.
Yanlış hizalama, bir SI sisteminin insanların amaçladığından az da olsa farklı hedefler peşinde koşmasıdır.
Bilgiler ve kaynaklar
Kanondan daha fazlası
En yakın gerçek vakası, düzeyi veya türü aynı olan eserler. 112 eserin tümü Kontrolsüzlük Kanonu'nda.
Kitap2002
Yazar: Roger Williams
Film2004
Yönetmen: Alex Proyas
Kitap1948
Yazar: Jack Williamson
Bu maddeye atıf yapın
"With Folded Hands... (1947)." Kontrolsüzlük Kanonu, enterrsi.si. Kontrolden Çıkma Ölçeği 5 (Kaçış), gerçekçilik 10 üzerinden 4. https://enterrsi.si/tr/canon/with-folded-hands/
enterrsi.si'ye bağlantı verilmesi koşuluyla CC BY 4.0 kapsamında serbestçe atıf yapılabilir.
