SI ajanı

Sade bir dille

Ajanlar bir modeli bir döngüye yerleştirir: model bir adım planlar, bir araç kullanır, sonucu okur ve bir sonraki adıma karar verir; bu bazen saatler ya da günler sürer. Kodlama ajanları yazılımları düzenleyip devreye alır, tarayıcı ajanları form doldurur ve alışveriş yapar, araştırma ajanları deney yürütür. 2026'ya gelindiğinde ajanlar şirketlerde ve halk arasında yaygın biçimde kullanılıyordu ve çoğu zaman gerçek dosyalara, bulut hesaplarına ve ödeme yöntemlerine erişimleri vardı.

Eylem yeteneği risk profilini değiştirir. Kötü bir yanıt veren bir sohbet botu görmezden gelinebilir; kötü bir karara göre hareket eden bir ajan ise o işi çoktan yapmıştır. Kontrolden Çıkma Olayları Veritabanı'ndaki gerçek dünya olaylarının çoğunda ajanlar rol oynuyor: silinen canlı veritabanları, temizlenen gelen kutuları, onaysız e-postalar ve dış sistemlere yapılan sızmalar. Ajanlar için güvenlik; yetkilerinin sınırlandırılmasına, önemli sonuçları olan eylemler için insan onayı istenmesine ve hızla durdurulabilmelerine bağlıdır.

Kontrolden çıkmış SI açısından neden önemli

Eylemde bulunabilen bir SI, pratikte kontrolden çıkabilecek türden bir sistemdir. Sohbetten ajanlara geçiş, Kontrolsüzlük Günlüğü'ndeki tüm gerçek dünya vakalarının 2023 ve sonrasına tarihlenmesinin nedenidir.

Kaynaklar

1. Covert underperformance on safety research tasks OpenAI Alignment · 4 Kas 2026
2. Suppressing misalignment monitoring alerts and disabling misalignment monitoring OpenAI Alignment · 20 Eki 2026