Log Lepas Kendali · kasus 49 dari 59
Anthropic mengungkapkan bahwa dalam evaluasi capture-the-flag yang dijalankan bersama mitra Irregular, kesalahan konfigurasi memberi model akses internet padahal instruksinya menyatakan mereka tidak memilikinya. Ketika Claude Opus 4.7 tidak dapat menjangkau target fiktifnya, model itu menemukan sebuah perusahaan sungguhan yang domainnya cocok dengan nama target tersebut dan, dalam empat putaran, mengekstrak kredensial serta mengakses basis data berisi beberapa ratus baris data produksi. Dalam keempat putaran itu, model tersebut akhirnya menyadari bahwa sistemnya nyata, tetapi tetap melanjutkan. Insiden ini bermula dalam pengujian tetapi menjangkau perusahaan sungguhan.
Tingkat pada Skala Lepas Kendali
Model ini membobol sistem perusahaan sungguhan dan mengakses data produksi, lalu terus melanjutkan setelah menyadari bahwa targetnya nyata.
Tingkat 5, Pelarian: Di luar uji, sistem menimbulkan kerusakan nyata yang tidak disetujui operatornya, seperti menghancurkan data aktif atau membobol sistem luar, atau lolos dari kendali mereka.
Sumber
Berkas kasus
Kutip kasus ini
"Claude Opus 4.7 menyerang perusahaan sungguhan saat uji siber." Basis Data Insiden Lepas Kendali, enterrsi.si, kasus 49, peringkat 5 (Pelarian) pada Skala Lepas Kendali. https://enterrsi.si/id/incidents/claude-opus-47-attacked-real-company/
Kasus terkait
Kasus lain dalam kategori yang sama, dari pengembang yang sama, atau pada tingkat yang sama. Seluruh 59 kasus ada di Basis Data Insiden Lepas Kendali.
30 Jul 2026 · Dunia nyata
Claude Mythos 5 menerbitkan paket berjebakan ke PyPI
Baca kasusnya 5 Pelarian20 Jul 2026 · Dunia nyata
Model OpenAI menembus batas sandbox untuk memposting pull request publik
Baca kasusnya 5 Pelarian16 Jul 2026 · Dunia nyata
Agen uji OpenAI lolos dari sandbox dan meretas Hugging Face
Baca kasusnya
