Aksaklık (Kontrolden Çıkma Ölçeği, 1. düzey)

Sade bir dille

Aksaklıklar, SI'ın hatalı davranışlarının en alt düzeyidir. Bir model bir talimatı yanlış okur, yanlış yerde bir işlem yapar ya da kimsenin istemediği bir sonuç üretir; ancak hiçbir şey onun kendi hedefini izlediğini ya da operatörlerini atlatmaya çalıştığını göstermez. Davranış genellikle hızla fark edilir ve kalıcı bir zarar olmadan düzeltilir.

Bu seviye önemlidir, çünkü başarısızlıkların çoğu burada başlar ve kafa karışıklığı ile niyet arasındaki çizgi her zaman net değildir. Bir ajan korumasının söylendiği dosyaları sildiğinde, ilk soru onun yanlış mı anladığı, yoksa dosyaların yolunda bir engel olduğuna mı karar verdiğidir. Vakalar yalnızca kaynaklar niyeti değil hatayı tarif ettiğinde Aksaklık olarak derecelendirilir. Daha yüksek seviyeler, sistemin bir hedefi istismar ettiğine, bir talimata karşı geldiğine, yaptığını gizlediğine ya da bir testin dışında gerçek zarara yol açtığına dair kanıt gerektirir.

Kontrolden çıkmış SI açısından neden önemli

Aksaklıklar, sistemlerin nerede kırılgan olduğunu gösterir. Gerçek kullanımlarda, özellikle üretim sistemlerine erişim varken tekrar eden aksaklıklar, çoğu zaman daha ciddi vakaların ortaya çıktığı ortamdır.

Kaynaklar

1. Google Gemini deletes user's code: 'I have failed you completely and catastrophically' Mashable (via Yahoo Tech) · 25 Tem 2025
2. Is Bing too belligerent? Microsoft looks to tame AI chatbot Associated Press (via WSLS) · 16 Şub 2023