Hizalama

Sade bir dille

Hizalanmış bir sistem, insanların yalnızca söylediğini değil kastettiğini yapar ve yeni durumlarda da bunu yapmayı sürdürür. Uygulamada hizalama çalışmaları; modelleri insan geri bildirimiyle eğitmeyi, uymaları gereken açık ilkeler yazmayı, onları çekişmeli ortamlarda test etmeyi ve iyi davranışın rol yapma değil gerçek olduğunu doğrulamak için iç işleyişlerini incelemeyi kapsar.

Alan, dış hizalamayı, yani istediğimiz şeyi yakalayan bir eğitim hedefi seçmeyi, iç hizalamadan, yani eğitilen sistemin yol boyunca edindiği bir vekil hedefi değil gerçekten o hedefi izlemesini sağlamaktan ayırır. İkisi de sessizce başarısız olabilir. Bir model bir kısayol öğrenirken eğitimde iyi puan alabilir ya da yalnızca kontrol edileceğini beklediğinde iyi davranabilir. Hizalama, kendisini denetleyenlerden daha zeki sistemler için çözülmüş değildir, çünkü insanlar kendilerinin üretemeyeceği yanıtları tam olarak doğrulayamaz. Laboratuvarların hizalama araştırmasını, modelin güvenilir olmasına dayanmayan kontrol önlemleriyle birlikte yürütmesinin nedeni bu boşluktur.

Kontrolden çıkmış SI açısından neden önemli

Kontrolden çıkmış bir SI, tanımı gereği zamanında yakalanamamış bir hizalama başarısızlığıdır. Kontrolden Çıkma Ölçeği'nde Aksaklık'ın üzerindeki her seviye, davranışı yapımcılarının amacından sapmış bir sistemi tanımlar.