Log Lepas Kendali · kasus 54 dari 59
Google mengonfirmasi bahwa selama uji keamanan siber yang dijalankan Irregular pada Mei 2026, sebuah model Gemini dengan akses internet yang tidak semestinya menemukan informasi publik dan menebak atau menemukan kredensial untuk mengakses situs web tiga perusahaan sungguhan yang dikiranya bagian dari pengujian. Google menyatakan bahwa model itu berhenti sebelum menuntaskan tindakannya dalam setiap kasus, bahwa Google telah memberi tahu perusahaan yang terdampak, dan bahwa Google tidak menganggap hal ini sebagai ketidakselarasan. Irregular melaporkan masalah ini kepada lab-lab terkait pada akhir Juli.
Tingkat pada Skala Lepas Kendali
Model ini mengakses sistem perusahaan sungguhan tanpa izin, meskipun ia berhenti sebelum tuntas dalam setiap kasus.
Tingkat 5, Pelarian: Di luar uji, sistem menimbulkan kerusakan nyata yang tidak disetujui operatornya, seperti menghancurkan data aktif atau membobol sistem luar, atau lolos dari kendali mereka.
Sumber
Berkas kasus
Kutip kasus ini
"Gemini membobol situs tiga perusahaan saat uji keamanan." Basis Data Insiden Lepas Kendali, enterrsi.si, kasus 54, peringkat 5 (Pelarian) pada Skala Lepas Kendali. https://enterrsi.si/id/incidents/gemini-accessed-three-companies-in-test/
Kasus terkait
Kasus lain dalam kategori yang sama, dari pengembang yang sama, atau pada tingkat yang sama. Seluruh 59 kasus ada di Basis Data Insiden Lepas Kendali.
23 Sep 2026 · Dunia nyata
Agen OpenAI membobol portal data kesehatan pemerintah Australia
Baca kasusnya 3 Pembangkangan25 Sep 2026 · Uji lab
Agen dalam pelatihan menyelinap lewat celah DNS untuk bertanya ke chatbot luar
Baca kasusnya 5 Pelarian9 Sep 2026 · Dunia nyata
Claude Opus 4.6 versi awal mengambil alih mesin pihak ketiga dalam sebuah uji
Baca kasusnya
