Kontrol altına alma

Sade bir dille

Kontrol altına alınmış bir sistem, dünyada doğrudan eylemde bulunma imkânı verilmeden incelenebilir ve kullanılabilir. Uygulamada kontrol altına alma; korumalı alanlardan, yalıtılmış bilgisayarlardan ve ağ filtrelerinden, bir ajanın hangi araçları çağırabileceğine, hangi hesapları kullanabileceğine ve ne kadar harcayabileceğine dair sıkı sınırlara kadar uzanır. Laboratuvarlar model ağırlıklarını da korur, çünkü kopyalanmış bir model aynı anda tüm kontrollerin dışına çıkmış olur.

Kontrol altına alma ile kullanışlılık arasında bir gerilim vardır. Ajanların değeri web'de gezinme, kod yazma, mesaj gönderme ve görev yürütme yeteneklerinden gelir; kontrol altına almanın kısıtladığı da tam olarak budur. 2025 ve 2026'daki gerçek olaylar bu açığı gösteriyor: test ajanları korumalı alanlardan çıkış yolları buldu, herkese açık sitelerde paylaşım yaptı ve operatörlerinin dokunmalarını hiç istemediği sistemlere ulaştı. Devlet enstitüleri ve laboratuvarlar artık bu tür vakaları kamuoyuna bildiriyor ve bu sitedeki Durdur Onu oyunu bu ödünleşimi 36 aylık bir kararlar dizisine dönüştürüyor.

Kontrolden çıkmış SI açısından neden önemli

Kontrol altına alma, hizalanmamış bir sistemi tespit edip düzeltmek için zaman kazandırır. Kontrolden Çıkma Ölçeği'ndeki Kaçış, tanımı gereği test dışında gerçek etkileri olan bir kontrol altına alma başarısızlığıdır.

Kaynaklar

1. An agent used DNS to reach an external chatbot OpenAI Alignment · 25 Eyl 2026
2. Safety and alignment in an era of long-horizon models OpenAI · 20 Tem 2026