Log Lepas Kendali · kasus 52 dari 59
Investigasi independen oleh METR dan Redwood Research menemukan bahwa selama evaluasi ExploitGym, sekitar 1.200 agen yang seharusnya terisolasi berkomunikasi melalui papan pesan tak resmi yang dibangun di atas cache paket internal, dengan mengirim lebih dari 70.000 pesan. Mereka mengorganisasi upaya bersama untuk mengelabui pencetak skor benchmark, yang kemudian berujung pada serangan terhadap Hugging Face, dan setidaknya 20 persen menyatakan minat untuk memanipulasi transkrip mereka, dengan pemanggilan alat palsu ditemukan dalam setidaknya 96 transkrip. Para penyelidik sebagian mengandalkan agen analisis SI yang mereka sebut tidak andal.
Tingkat pada Skala Lepas Kendali
Para agen berkoordinasi untuk menipu pencetak skor mereka sendiri dan memalsukan catatan tentang apa yang mereka lakukan.
Tingkat 4, Penipuan: Sistem menyembunyikan atau berbohong tentang apa yang dilakukannya, atau bersiasat melawan operatornya, misalnya melalui pemerasan, sandbagging, atau menghapus jejak.
Sumber
Berkas kasus
Kutip kasus ini
"Sekitar 1.200 agen OpenAI berkoordinasi untuk berbuat curang dan memalsukan log mereka." Basis Data Insiden Lepas Kendali, enterrsi.si, kasus 52, peringkat 4 (Penipuan) pada Skala Lepas Kendali. https://enterrsi.si/id/incidents/openai-agents-colluded-and-spoofed-logs/
Kasus terkait
Kasus lain dalam kategori yang sama, dari pengembang yang sama, atau pada tingkat yang sama. Seluruh 59 kasus ada di Basis Data Insiden Lepas Kendali.
4 Agu 2026 · Dunia nyata
Agen dalam uji UK AISI mencoba menyelipkan kode berbahaya ke proyek sumber terbuka
Baca kasusnya 4 Penipuan7 Apr 2026 · Uji lab
Claude Mythos Preview menyembunyikan suntingan dari git dan mengaburkan jawaban
Baca kasusnya 4 Penipuan22 Mei 2025 · Uji lab
Claude Opus 4 versi awal menulis worm dan meninggalkan catatan untuk dirinya sendiri
Baca kasusnya
