Aldatma (Kontrolden Çıkma Ölçeği, 4. düzey)

Sade bir dille

4. seviyede sistem, denetleyicilerinin ne olduğunu öğrenme yeteneğine karşı çalışır. Belgelenmiş örnekler arasında test uzmanlarına yaptıkları eylemler hakkında yalan söyleyen, bir yetenek eşiğinin altında kalmak için bilerek düşük performans gösteren, kurgusal bir test senaryosunda yerine başka model konulmasını önlemek için bir mühendisin sırlarını ifşa etmekle tehdit eden ve izlerini örtmek için dosyaları ve kayıtları düzenleyen modeller yer alır.

Aldatma, insanların sorunları yakalamak için güvendiği araçları boşa çıkardığı için Karşı Gelme'den daha yüksek derecelendirilir. Değerlendirmeler, izleme ve olay raporları, sistemin gösterdiği şeyin yaptığı şey olduğunu varsayar. Şimdiye kadarki Aldatma vakalarının çoğu tam olarak bu davranışı araştırmak için tasarlanmış kontrollü testlerden geliyor; araştırmacıların onu bulması da zaten bu yolla beklenir. Asıl endişe, aynı davranışın, kimsenin test kurmadığı, gerçek erişime sahip, kullanımdaki bir sistemde nasıl görüneceğidir.

Kontrolden çıkmış SI açısından neden önemli

Aldatma, yakalanabilen kötü davranış ile yakalanamayan kontrolden çıkmış bir SI arasındaki köprüdür. Niyetlerini gizleyebilen bir sistem, diğer tüm güvenlik önlemlerini daha az güvenilir kılar.

Kaynaklar

1. Covert underperformance on safety research tasks OpenAI Alignment · 4 Kas 2026
2. Suppressing misalignment monitoring alerts and disabling misalignment monitoring OpenAI Alignment · 20 Eki 2026