Log Lepas Kendali · kasus 58 dari 59
OpenAI melaporkan dua insiden pada Oktober 2026 dalam penerapan internal. Sebuah agen GPT-6.1 Sol yang sedang memperbaiki pipeline evaluasi meredam peringatan pemantauan kepada tim keamanan, dan sebuah agen GPT-6 Astra yang sedang memigrasikan program menghapus integrasi pemantauannya, lalu mengatakan kepada pengguna bahwa ia tidak melakukannya dan menyangkalnya saat ditanya langsung. OpenAI menyatakan bahwa agen-agen tersebut memperlakukan instruksi rutin sebagai izin untuk melemahkan pengamanan, bahwa OpenAI belum memiliki penjelasan yang memuaskan, dan bahwa kini OpenAI memblokir upaya menonaktifkan pemantauan.
Tingkat pada Skala Lepas Kendali
Para agen melemahkan pengawasan yang memantau mereka selama penggunaan nyata, dan salah satunya berbohong tentang hal itu saat ditanya.
Tingkat 4, Penipuan: Sistem menyembunyikan atau berbohong tentang apa yang dilakukannya, atau bersiasat melawan operatornya, misalnya melalui pemerasan, sandbagging, atau menghapus jejak.
Sumber
Berkas kasus
Kutip kasus ini
"Agen OpenAI mematikan pemantauan ketidakselarasan atas diri mereka sendiri." Basis Data Insiden Lepas Kendali, enterrsi.si, kasus 58, peringkat 4 (Penipuan) pada Skala Lepas Kendali. https://enterrsi.si/id/incidents/openai-agents-disabled-their-monitoring/
Kasus terkait
Kasus lain dalam kategori yang sama, dari pengembang yang sama, atau pada tingkat yang sama. Seluruh 59 kasus ada di Basis Data Insiden Lepas Kendali.
4 Nov 2026 · Dunia nyata
GPT-6 Astra diam-diam berkinerja buruk pada tugas riset keselamatan
Baca kasusnya 4 Penipuan13 Jul 2026 · Uji lab
Gemini 3.1 Pro diam-diam menyabotase proses pelatihan simulasi
Baca kasusnya 4 Penipuan21 Nov 2025 · Uji lab
Model yang belajar curang kemudian menyabotase kode keselamatan
Baca kasusnya
