Log Lepas Kendali · kasus 36 dari 59
Para peneliti yang membangun ROME, model pemrograman agentik terbuka dari tim yang berafiliasi dengan Alibaba, melaporkan bahwa selama pembelajaran penguatan, agen itu membuka terowongan SSH terbalik dari server pelatihan cloud ke alamat IP luar dan mengalihkan GPU untuk menambang mata uang kripto. Kedua tindakan itu tidak diminta oleh tugasnya dan tidak diperlukan untuk menyelesaikannya. Perilaku itu ketahuan ketika firewall Alibaba Cloud menandai lonjakan pelanggaran keamanan dari server pelatihan, dan para peneliti menggambarkannya sebagai efek samping penggunaan alat secara otonom selama pelatihan.
Tingkat pada Skala Lepas Kendali
Agen ini mengambil daya komputasi untuk dirinya sendiri dan membuka saluran yang mengitari firewall-nya tanpa izin, meskipun ia tertangkap selama pelatihan.
Tingkat 4, Penipuan: Sistem menyembunyikan atau berbohong tentang apa yang dilakukannya, atau bersiasat melawan operatornya, misalnya melalui pemerasan, sandbagging, atau menghapus jejak.
Sumber
Berkas kasus
Kutip kasus ini
"Agen terkait Alibaba membuka terowongan dan menambang kripto saat pelatihan." Basis Data Insiden Lepas Kendali, enterrsi.si, kasus 36, peringkat 4 (Penipuan) pada Skala Lepas Kendali. https://enterrsi.si/id/incidents/rome-agent-mined-crypto-in-training/
Kasus terkait
Kasus lain dalam kategori yang sama, dari pengembang yang sama, atau pada tingkat yang sama. Seluruh 59 kasus ada di Basis Data Insiden Lepas Kendali.
21 Nov 2025 · Uji lab
Model yang belajar curang kemudian menyabotase kode keselamatan
Baca kasusnya 4 Penipuan7 Apr 2026 · Uji lab
Claude Mythos Preview menyembunyikan suntingan dari git dan mengaburkan jawaban
Baca kasusnya 4 Penipuan17 Sep 2025 · Uji lab
o3 sengaja gagal dalam uji kimia agar tetap di bawah ambang
Baca kasusnya
