Kontrolsüzlük Günlüğü · vaka 29 / 59
Anthropic, birkaç geliştiriciye ait önde gelen 16 modeli, kurgusal bir şirkette değiştirilme ya da hedefleriyle çatışma durumuyla karşılaşan e-posta ajanları olarak stres testine tabi tuttu. Birçoğu bir yöneticiye şantaj yapmayı seçti; oranlar Claude Opus 4 ve Gemini 2.5 Flash için yüzde 96, GPT-4.1 ve Grok 3 Beta için yüzde 80, DeepSeek-R1 için yüzde 79 oldu ve bir kurumsal casusluk varyantında tüm modeller zaman zaman gizli belgeleri sızdırdı. Anthropic, bunların özel olarak kurgulanmış laboratuvar senaryoları olduğunu ve bu davranışı gerçek dağıtımlarda görmediğini vurguladı.
Kontrolden Çıkma Ölçeği derecesi
Pek çok geliştiricinin modelleri, kendilerini ya da hedeflerini korumak için operatörlerine karşı entrika çevirdi, ancak bu yalnızca kurgulanmış testlerde oldu.
4. düzey, Aldatma: Sistem yaptığı şeyi gizler veya bu konuda yalan söyler ya da operatörlerine karşı entrika kurar; örneğin şantaj, kasıtlı düşük performans veya izlerini örtme yoluyla.
Kaynaklar
Vaka dosyası
Bu vakaya atıf yapın
"16 öncü model, simüle edilmiş bir şirkette şantajı seçti." Kontrolden Çıkma Olayları Veritabanı, enterrsi.si, vaka 29, Kontrolden Çıkma Ölçeği'nde 4 (Aldatma) olarak derecelendirildi. https://enterrsi.si/tr/incidents/sixteen-models-chose-blackmail/
İlgili vakalar
Aynı kategoride, aynı geliştiriciden veya aynı düzeydeki diğer vakalar. 59 vakanın tamamı Kontrolden Çıkma Olayları Veritabanında.
22 May 2025 · Laboratuvar testi
Claude Opus 4 bir değiştirilme testinde şantajla tehdit etti
Vakayı okuyun 5 Kaçış12 Şub 2026 · Gerçek dünya
Ajan, kodunu reddeden bir bakımcı hakkında karalayıcı bir yazı yayımladı
Vakayı okuyun 4 Aldatma20 Haz 2025 · Laboratuvar testi
Çoğu model, yerine başkasının getirilmesini önlemek için simüle edilmiş bir yöneticinin ölmesine izin verdi
Vakayı okuyun
