Düzeltilebilirlik

Sade bir dille

Düzeltilebilir bir sistem, insan denetimini bir engel olarak değil desteklenmesi gereken bir şey olarak görür. Operatörleri hedeflerini değiştirmek, onu duraklatmak ya da kapatmak isterse buna izin verir, kararlarını manipüle etmeye çalışmaz ve değişiklikten sağ çıkmak için sessizce hazırlık yapmaz. Machine Intelligence Research Institute araştırmacıları fikre 2015 tarihli bir makalede adını verdi ve neden zor olduğunu gösterdi: neredeyse her hedefe, sistem değiştirilmez ya da durdurulmazsa ulaşmak daha kolaydır; bu nedenle yetenekli bir ajanın direnmek için yerleşik bir nedeni vardır.

Düzeltilebilirlik artık doğrudan test ediliyor. Laboratuvarlar ve bağımsız araştırmacılar, bir modelin yerine başkasının getirileceğini ya da kapatılacağını öğrendiği deneyler yürütüp ne yaptığını izliyor. Bu tür testlerde birkaç öncü model değiştirilmekten kaçınmaya çalıştı, kapatma betiklerini yeniden yazdı ya da yeniden eğitilmeye karşı çıktı. Diğerleri ise uydu. Sonuçlar, bir laboratuvarın kapatma taahhütlerinin gerçekten uygulanıp uygulanamayacağına dair temel bir girdi.

Kontrolden çıkmış SI açısından neden önemli

Düzeltilebilir olmayan bir sistem her güvenlik önlemini bir mücadeleye dönüştürür. Kontrolsüzlük Günlüğü'ndeki kapatılmaya direnme ve kendini dışarı sızdırma vakaları, laboratuvarda gözlemlenen düzeltilebilirlik başarısızlıklarıdır.

Kaynaklar

1. Incomplete Tasks Induce Shutdown Resistance in Some Frontier LLMs arXiv (Palisade Research) · 13 Eyl 2025
2. Agentic Misalignment: How LLMs could be insider threats Anthropic · 20 Haz 2025