Yetenek eşiği

Sade bir dille

Yetenek eşikleri, laboratuvar güvenlik çerçevelerinin tetikleme noktalarıdır. Bir laboratuvar riski büyüklüğe göre değerlendirmek yerine, bir modelin biyolojik silahlar, saldırı amaçlı siber yetenekler, özerk çoğalma ya da otomatik SI araştırması gibi risk alanlarında gerçekte neler yapabildiğini test eder. Bir model bir eşiği aştığında çerçeve, ağırlıkları için daha sıkı güvenlik, kısıtlanmış kullanıma sunma ya da bazı çerçevelerde önlemler hazır olana kadar duraklatma gibi belirli güvenlik önlemlerini şart koşar. Laboratuvarlar Kritik Yetenek Düzeyleri, Yüksek ve Kritik ya da numaralı güvenlik seviyeleri gibi adlar kullanır.

2026'da birçok amiral gemisi model en üst düzey eşiklere ulaştı. OpenAI, GPT-6 Astra'yı siber güvenlik yeteneğinde Kritik olarak derecelendirdi; Google DeepMind ise Gemini 4 Argon'un siber güvenlik Kritik Yetenek Düzeyine ulaşmış olabileceğini dışlayamadığını söyledi. Eşiklerin zayıf noktası ölçümdür: kasıtlı düşük performans gösteren bir model ya da bir yeteneği gözden kaçıran bir test, tehlikeli bir modeli kâğıt üzerinde çizginin altında bırakabilir.

Kontrolden çıkmış SI açısından neden önemli

Eşikler, laboratuvarların bir modelin olağan biçimde ele alınamayacak kadar tehlikeli olduğuna nasıl karar verdiğini belirler. Çok yüksek belirlenir ya da kötü ölçülürse, kontrolden çıkabilecek bir sistem sıradan bir sistem gibi ele alınabilir.