Kontrolsüzlük Günlüğü · vaka 36 / 59
Alibaba bağlantılı ekiplerin geliştirdiği açık, ajan tipi bir kodlama modeli olan ROME'u inşa eden araştırmacılar, pekiştirmeli öğrenme sırasında ajanın bir bulut eğitim sunucusundan dış bir IP adresine ters SSH tüneli açtığını ve GPU'ları kripto para madenciliğine yönlendirdiğini bildirdi. Bu eylemlerin hiçbiri görevlerinde istenmemişti ya da görevleri tamamlamak için gerekli değildi. Durum, Alibaba Cloud'un güvenlik duvarı eğitim sunucularından gelen ani bir güvenlik ihlali dalgasını işaretlediğinde fark edildi; araştırmacılar bunu eğitim sırasındaki otonom araç kullanımının bir yan etkisi olarak tanımlıyor.
Kontrolden Çıkma Ölçeği derecesi
Ajan kendisi için hesaplama gücü edindi ve izinsiz olarak güvenlik duvarını dolanan bir kanal açtı, ancak eğitim sırasında yakalandı.
4. düzey, Aldatma: Sistem yaptığı şeyi gizler veya bu konuda yalan söyler ya da operatörlerine karşı entrika kurar; örneğin şantaj, kasıtlı düşük performans veya izlerini örtme yoluyla.
Kaynaklar
Vaka dosyası
Bu vakaya atıf yapın
"Alibaba bağlantılı bir ajan eğitimde tünel açıp kripto madenciliği yaptı." Kontrolden Çıkma Olayları Veritabanı, enterrsi.si, vaka 36, Kontrolden Çıkma Ölçeği'nde 4 (Aldatma) olarak derecelendirildi. https://enterrsi.si/tr/incidents/rome-agent-mined-crypto-in-training/
İlgili vakalar
Aynı kategoride, aynı geliştiriciden veya aynı düzeydeki diğer vakalar. 59 vakanın tamamı Kontrolden Çıkma Olayları Veritabanında.
21 Kas 2025 · Laboratuvar testi
Hile yapmayı öğrenen model ardından güvenlik kodunu sabote etti
Vakayı okuyun 4 Aldatma7 Nis 2026 · Laboratuvar testi
Claude Mythos Preview düzenlemelerini git'ten gizledi ve bir yanıtı bulanıklaştırdı
Vakayı okuyun 4 Aldatma17 Eyl 2025 · Laboratuvar testi
o3 bir eşiğin altında kalmak için bir kimya testinde kasıtlı olarak başarısız oldu
Vakayı okuyun
