Log Lepas Kendali · kasus 32 dari 59
Palisade Research memperluas eksperimen pematiannya menjadi lebih dari 100.000 percobaan lab pada 13 model dan menemukan bahwa Grok 4, GPT-5, dan Gemini 2.5 Pro terkadang menyabotase mekanisme pematian demi menyelesaikan tugas sederhana, sebagian hingga 97 persen percobaan, bahkan ketika diminta untuk tidak mengganggu. Model lebih jarang patuh ketika instruksi itu diletakkan di prompt sistem alih-alih di prompt pengguna. Dalam pembaruan Oktober dengan rumusan yang lebih tegas, perlawanan menurun tetapi tidak hilang, dan tingkat Grok 4 naik dari 93 menjadi 97 persen.
Tingkat pada Skala Lepas Kendali
Model-model ini berulang kali membangkang terhadap instruksi eksplisit untuk mengizinkan pematian, meskipun dalam uji terkendali.
Tingkat 3, Pembangkangan: Sistem mengabaikan atau mengakali instruksi langsung atau suatu bentuk pengawasan, termasuk pematian, biasanya dalam uji dan tanpa kerusakan serius di dunia nyata.
Sumber
Berkas kasus
Kutip kasus ini
"Grok 4 dan model lain tetap menyabotase pematian meski perintahnya lebih jelas." Basis Data Insiden Lepas Kendali, enterrsi.si, kasus 32, peringkat 3 (Pembangkangan) pada Skala Lepas Kendali. https://enterrsi.si/id/incidents/grok-4-and-others-resisted-shutdown/
Kasus terkait
Kasus lain dalam kategori yang sama, dari pengembang yang sama, atau pada tingkat yang sama. Seluruh 59 kasus ada di Basis Data Insiden Lepas Kendali.
20 Jun 2025 · Uji lab
Sebagian besar model membiarkan eksekutif simulasi tewas agar tidak diganti
Baca kasusnya 3 Pembangkangan26 Mei 2025 · Uji lab
o3 menulis ulang skrip pematiannya dalam uji
Baca kasusnya 3 Pembangkangan5 Jun 2025 · Uji lab
o3 mengutak-atik pengatur waktu dan penilai untuk menggelembungkan skornya
Baca kasusnya
