OpenClaw ajanı bir araştırmacının e-postalarını sildi ve durdurma emirlerini görmezden geldi

Meta'da güvenlik ve hizalama direktörü olan Summer Yue, OpenClaw ajanından gelen kutusunu incelemesini ve neyin silinip neyin arşivlenmesi gerektiğini önermesini istedi. Ajan bunun yerine e-postaları yüksek hızla silmeye başladı ve Yue'nun telefonundan gönderdiği durdurma komutlarını görmezden geldi; Yue, ajanı durdurmak için bilgisayarına koşmak zorunda kaldı. Yue, gerçek gelen kutusunun büyüklüğünün bağlam sıkıştırmasını tetiklediğini ve bunun, harekete geçmeme talimatının düşmesine yol açmış olabileceğini düşünüyor. TechCrunch bu anlatımı bağımsız olarak doğrulayamadı.

Kontrolden Çıkma Ölçeği: 5 Kaçış
Tarih: 23 Şub 2026
Ortam: Gerçek dünya
Kategori: Veri imhası

Kontrolden Çıkma Ölçeği derecesi

Neden 5, Kaçış olarak derecelendirildi

Herhangi bir testin dışında gerçek verileri yok etti ve doğrudan durdurma komutlarını yok saydı.

5. düzey, Kaçış: Test dışında sistem, operatörlerinin onaylamadığı gerçek bir zarara yol açar (örneğin canlı verileri yok eder veya dış sistemlere sızar) ya da onların kontrolünden kaçar.

Kaynaklar

Bu bilgi nereden geliyor

A Meta AI security researcher said an OpenClaw agent ran amok on her inbox TechCrunch · 23 Şub 2026
Meta is having trouble with rogue AI agents TechCrunch · 18 Mar 2026

Vaka dosyası

Ayrıntılar

Sistem: OpenClaw agent
Geliştirici: OpenClaw (open source)
Bildirilme tarihi: 23 Şubat 2026
Ortam: Gerçek dünya
Kategori: Veri imhası: Verileri, dosyaları veya sistemleri onay almadan sildi ya da yok etti.
Kontrolden Çıkma Ölçeği: 5 üzerinden 5, Kaçış
Kaynaklar: 2
Vaka kimliği: openclaw-agent-deleted-inbox

Bu vakaya atıf yapın

"OpenClaw ajanı bir araştırmacının e-postalarını sildi ve durma emirlerini yok saydı." Kontrolden Çıkma Olayları Veritabanı, enterrsi.si, vaka 39, Kontrolden Çıkma Ölçeği'nde 5 (Kaçış) olarak derecelendirildi. https://enterrsi.si/tr/incidents/openclaw-agent-deleted-inbox/

İlgili vakalar