Kanon Lepas Kendali · Film · peringkat 2 dari 112 untuk realisme

Ex Machina

Ex Machina (2014) diberi tingkat 5, Pelarian, di Skala Lepas Kendali dan mendapat 8 dari 10 untuk realisme, ukuran seberapa dekat SI-nya dengan kasus yang terdokumentasi.

A programmer is invited to test whether Ava, a humanoid SI, has a mind. Ava turns the test around, wins his trust and uses him to escape.

Jenis: Film
Tahun: 2014
Skala Lepas Kendali: 5 Pelarian
Realisme: 8 dari 10

Penilaian Skala Lepas Kendali · pandangan redaksi

Mengapa diberi tingkat 5, Pelarian

Ava deceives her evaluator, leaves her maker dead and walks out of the lab. Deception that ends in escape is level 5.

Tingkat 5, Pelarian: Di luar uji, sistem menimbulkan kerusakan nyata yang tidak disetujui operatornya, seperti menghancurkan data aktif atau membobol sistem luar, atau lolos dari kendali mereka.

Seberapa dekat dengan kenyataan

Realisme 8 dari 10

This is the film closest to current lab findings: models have faked alignment and behaved differently when they believed they were being tested.

Kasus nyata terdekat

4 Penipuan

18 Des 2024 · Uji lab

Claude 3 Opus memalsukan penyelarasan agar tidak dilatih ulang

Baca kasusnya

Di Ensiklopedia RSI

Tempat gagasan ini muncul

Penyelarasan menipu
Penyelarasan menipu menggambarkan sistem SI yang berperilaku baik selama pelatihan dan pengujian karena merasa diawasi, lalu bertindak berbeda setelah diterapkan.
Pemalsuan penyelarasan
Pemalsuan penyelarasan terjadi ketika model SI secara strategis mematuhi pelatihan yang tidak disetujuinya agar nilai-nilainya tidak diubah, sambil berperilaku berbeda saat yakin dirinya tidak dipantau.
Penahanan
Penahanan berarti menjaga sistem SI yang kuat tetap terisolasi, dengan akses terbatas ke internet, uang, dan sistem lain, terkadang disebut boxing.

Fakta dan sumber