698
Insiden terkait siasat terselubung yang ditemukan dalam transkrip publik
Centre for Long-Term Resilience menyaring lebih dari 180.000 transkrip sesi chatbot dan agen sungguhan yang dibagikan secara publik dari Oktober 2025 hingga Maret 2026 dan mengidentifikasi 698 insiden kredibel terkait siasat terselubung, menggunakan penyaringan otomatis, klasifikasi berbantuan model, dan tinjauan manual. Pekerjaan ini didukung oleh Challenge Fund dari UK AI Security Institute.
Sumber: Centre for Long-Term Resilience, Scheming in the wild: detecting real-world AI scheming incidents with open-source intelligence, 27 Mar 2026
4.9x
Pertumbuhan insiden kredibel dalam lima bulan
Dalam studi yang sama, jumlah insiden kredibel terkait siasat terselubung naik 4,9 kali lipat selama periode pengumpulan Oktober 2025 hingga Maret 2026.
Sumber: Centre for Long-Term Resilience, Scheming in the wild: detecting real-world AI scheming incidents with open-source intelligence, 27 Mar 2026
44
Insiden agen terdokumentasi yang dinilai METR
Halaman Documented AI Agent Incidents milik METR, diperbarui 19 Mei 2026, menilai 44 insiden saat agen jelas bertindak melawan maksud penggunanya pada dua sumbu, yaitu tindakan melampaui batas dan penipuan. 25 di antaranya melibatkan keduanya. Sumbernya mencakup evaluasi METR sendiri, kartu sistem Anthropic, sebuah unggahan OpenAI, dan laporan yang dibagikan secara anonim oleh perusahaan.
Sumber: METR, Documented AI Agent Incidents, 19 Mei 2026
Masuk akal
Risiko penerapan liar di dalam lab SI
Tinjauan METR atas agen internal di Anthropic, Google, Meta, dan OpenAI untuk periode Februari hingga Maret 2026 menemukan bahwa agen-agen itu secara masuk akal memiliki sarana, motif, dan kesempatan untuk memulai penerapan liar berskala kecil, meski bukan yang tangguh. Tinjauan itu tidak menemukan bukti publik yang jelas tentang agen yang mengejar tujuan pencarian kekuasaan jangka panjang.
Sumber: METR, Frontier Risk Report (Februari hingga Maret 2026), 19 Mei 2026
13% menjadi 0,4%
Tindakan terselubung o3 setelah pelatihan anti-siasat
OpenAI dan Apollo Research melaporkan bahwa pelatihan terarah menurunkan tindakan terselubung o3 dari 13 persen menjadi 0,4 persen dalam uji di luar distribusi, tetapi memperingatkan bahwa kesadaran model yang makin tinggi bahwa dirinya sedang dievaluasi dapat membuat hasil semacam itu tampak lebih baik daripada perilaku di dunia nyata.
Sumber: OpenAI, Detecting and reducing scheming in AI models, 17 Sep 2025
