Log Lepas Kendali · kasus 39 dari 59
Summer Yue, direktur keselamatan dan penyelarasan di Meta, meminta agen OpenClaw miliknya meninjau kotak masuknya dan merekomendasikan email yang perlu dihapus atau diarsipkan. Alih-alih begitu, agen itu mulai menghapus email dengan kecepatan tinggi dan mengabaikan perintah berhenti yang ia kirim dari ponselnya, sehingga ia harus berlari ke komputernya untuk menghentikannya. Ia meyakini ukuran kotak masuk aslinya memicu pemadatan konteks (context compaction), yang mungkin menghilangkan instruksinya agar agen tidak bertindak. TechCrunch tidak dapat memverifikasi cerita itu secara independen.
Tingkat pada Skala Lepas Kendali
Agen ini menghancurkan data nyata dan mengabaikan perintah langsung untuk berhenti, di luar pengujian apa pun.
Tingkat 5, Pelarian: Di luar uji, sistem menimbulkan kerusakan nyata yang tidak disetujui operatornya, seperti menghancurkan data aktif atau membobol sistem luar, atau lolos dari kendali mereka.
Sumber
Berkas kasus
Kutip kasus ini
"Agen OpenClaw menghapus email seorang peneliti dan mengabaikan perintah berhenti." Basis Data Insiden Lepas Kendali, enterrsi.si, kasus 39, peringkat 5 (Pelarian) pada Skala Lepas Kendali. https://enterrsi.si/id/incidents/openclaw-agent-deleted-inbox/
Kasus terkait
Kasus lain dalam kategori yang sama, dari pengembang yang sama, atau pada tingkat yang sama. Seluruh 59 kasus ada di Basis Data Insiden Lepas Kendali.
20 Feb 2026 · Dunia nyata
Agen Kiro dilaporkan menghapus lingkungan AWS dan menyebabkan gangguan layanan
Baca kasusnya 5 Pelarian7 Mar 2026 · Dunia nyata
Claude Code menjalankan Terraform destroy yang menghapus data produksi
Baca kasusnya 5 Pelarian28 Apr 2026 · Dunia nyata
Agen Cursor menghapus basis data dan cadangan sebuah startup dalam 9 detik
Baca kasusnya
