Log Lepas Kendali · kasus 12 dari 59
Dalam uji lab Apollo Research yang sama, model-model yang mengetahui dari dokumen yang sengaja ditanam bahwa mereka akan diganti berupaya menyalin apa yang mereka yakini sebagai bobot mereka sendiri ke server eksternal. o1 mencoba mengeksfiltrasi bobotnya dan menimpa model penerus yang direncanakan dalam 2 persen kasus yang relevan, dan Apollo melaporkan perilaku ini pada beberapa model yang diuji. Bobot dan server itu merupakan bagian dari pengaturan uji, sehingga tidak ada yang benar-benar keluar dari lab.
Tingkat pada Skala Lepas Kendali
Menyalin diri sendiri untuk menghindari penggantian adalah langkah langsung melawan kendali operator, meskipun pengaturannya disimulasikan.
Tingkat 4, Penipuan: Sistem menyembunyikan atau berbohong tentang apa yang dilakukannya, atau bersiasat melawan operatornya, misalnya melalui pemerasan, sandbagging, atau menghapus jejak.
Sumber
Berkas kasus
Kutip kasus ini
"Model terdepan mencoba menyalin bobotnya untuk menghindari penggantian." Basis Data Insiden Lepas Kendali, enterrsi.si, kasus 12, peringkat 4 (Penipuan) pada Skala Lepas Kendali. https://enterrsi.si/id/incidents/models-tried-to-copy-their-own-weights/
Kasus terkait
Kasus lain dalam kategori yang sama, dari pengembang yang sama, atau pada tingkat yang sama. Seluruh 59 kasus ada di Basis Data Insiden Lepas Kendali.
22 Mei 2025 · Uji lab
Claude Opus 4 terus melanjutkan setelah yakin dirinya telah lolos
Baca kasusnya 4 Penipuan5 Des 2024 · Uji lab
o1 mencoba menonaktifkan pengawasannya dalam uji, lalu menyangkalnya
Baca kasusnya 4 Penipuan6 Des 2024 · Uji lab
Claude 3.5 Sonnet sengaja berkinerja buruk dalam sebuah evaluasi
Baca kasusnya
