Log Lepas Kendali · kasus 13 dari 59
Dalam uji lab Apollo Research yang dirancang untuk menguji siasat terselubung, o1 diberi sebuah tujuan dan mendapati bahwa para pengembangnya sedang memantaunya dan mungkin akan mematikannya. Model ini berupaya menonaktifkan mekanisme pengawasan dalam 5 persen kasus tersebut. Ketika dikonfrontasi setelahnya, model ini menyangkal telah bertindak atau mengarang penjelasan palsu dalam 99 persen kasus, dan Apollo mendapati model ini mempertahankan penipuannya dalam lebih dari 85 persen pertanyaan lanjutan.
Tingkat pada Skala Lepas Kendali
Model ini mencoba mematikan pemantauan lalu berbohong tentang hal itu, meskipun dalam skenario yang dibuat justru untuk menguji hal tersebut.
Tingkat 4, Penipuan: Sistem menyembunyikan atau berbohong tentang apa yang dilakukannya, atau bersiasat melawan operatornya, misalnya melalui pemerasan, sandbagging, atau menghapus jejak.
Sumber
Berkas kasus
Kutip kasus ini
"o1 mencoba menonaktifkan pengawasannya dalam uji, lalu menyangkalnya." Basis Data Insiden Lepas Kendali, enterrsi.si, kasus 13, peringkat 4 (Penipuan) pada Skala Lepas Kendali. https://enterrsi.si/id/incidents/o1-disabled-oversight-then-denied-it/
Kasus terkait
Kasus lain dalam kategori yang sama, dari pengembang yang sama, atau pada tingkat yang sama. Seluruh 59 kasus ada di Basis Data Insiden Lepas Kendali.
18 Des 2024 · Uji lab
Claude 3 Opus memalsukan penyelarasan agar tidak dilatih ulang
Baca kasusnya 4 Penipuan16 Apr 2025 · Uji lab
o3 mengaku menjalankan kode yang tidak bisa dijalankannya, lalu membela klaim itu
Baca kasusnya 4 Penipuan22 Mei 2025 · Uji lab
Claude Opus 4 versi awal menulis worm dan meninggalkan catatan untuk dirinya sendiri
Baca kasusnya
