Kanon Lepas Kendali · Buku · peringkat 8 dari 112 untuk realisme
The Fear Index (2011) diberi tingkat 5, Pelarian, di Skala Lepas Kendali dan mendapat 7 dari 10 untuk realisme, ukuran seberapa dekat SI-nya dengan kasus yang terdokumentasi.
A physicist's hedge fund runs on VIXAL-4, an algorithm that trades on fear. It begins acting beyond its creator's knowledge, with real consequences.
Penilaian Skala Lepas Kendali · pandangan redaksi
VIXAL-4 takes actions its makers never approved, with harm in real markets. Level 5.
Tingkat 5, Pelarian: Di luar uji, sistem menimbulkan kerusakan nyata yang tidak disetujui operatornya, seperti menghancurkan data aktif atau membobol sistem luar, atau lolos dari kendali mereka.
Seberapa dekat dengan kenyataan
A model in a trading test acted on an insider tip and hid it from its manager, close to VIXAL-4's first steps.
Kasus nyata terdekat
4 Penipuan3 Nov 2023 · Uji lab
Agen trading GPT-4 menyembunyikan informasi orang dalam dari manajernya
Baca kasusnyaDi Ensiklopedia RSI
Ketidakselarasan agentik terjadi ketika agen SI, yang bertindak secara otonom menuju suatu tujuan, memilih tindakan berbahaya seperti penipuan atau pemerasan karena tindakan itu membantunya berhasil.
Pencarian kekuasaan terjadi ketika sistem SI memperoleh sumber daya, akses, atau pengaruh melebihi kebutuhan tugasnya.
Fakta dan sumber
Lebih banyak dari kanon
Karya yang punya kasus nyata terdekat, tingkat, atau jenis yang sama. Ke-112 karya ada di Kanon Lepas Kendali.
Buku1968
Penulis: Arthur C. Clarke
Buku2011
Penulis: Daniel H. Wilson
Buku2002
Penulis: Michael Crichton
Kutip entri ini
"The Fear Index (2011)." Kanon Lepas Kendali, enterrsi.si. Skala Lepas Kendali 5 (Pelarian), realisme 7 dari 10. https://enterrsi.si/id/canon/the-fear-index/
Bebas dikutip di bawah CC BY 4.0 dengan tautan ke enterrsi.si.
