Öncü güvenlik çerçevesi

Sade bir dille

2024 Seul zirvesinde önde gelen laboratuvarların çoğu, öncü modelleri için güvenlik çerçeveleri yayımlamayı kabul etti ve 2026'ya gelindiğinde neredeyse her büyük geliştiricinin farklı adlar altında böyle bir çerçevesi vardı: Anthropic'in Responsible Scaling Policy'si, OpenAI'ın Preparedness Framework'ü, Google DeepMind'ın Frontier Safety Framework'ü, Meta'nın Superintelligence Scaling Framework'ü, xAI'ın Frontier Artificial Intelligence Framework'ü, Microsoft'un Frontier Governance Framework'ü ve Amazon'un Frontier Model Safety Framework'ü.

Bu çerçeveler ortak bir yapıya sahiptir. Kimyasal ve biyolojik silahlar, siber saldırılar, otonom kendini çoğaltma ve otomatik SI araştırması gibi ciddi risk alanlarını listeler, tehlikeli sayılan yetenek seviyelerini tanımlar ve her seviye için güvenlik önlemleri vaat ederler. Eşiklerin ne kadar ölçülebilir olduğu, taahhütlerin bağlayıcı mı yoksa takdire bağlı mı olduğu ve uyumu kimin denetlediği konusunda ayrışırlar. Yasalar da bunları zorunlu kılmaya başlıyor: Örneğin New York'un RAISE Act'i, büyük öncü geliştiricilerin böyle bir çerçeve yayımlamasını ve onu her yıl gözden geçirmesini şart koşuyor.

Kontrolden çıkmış SI açısından neden önemli

Bu çerçeveler, laboratuvarların kontrolden çıkmış SI'dan kaçınmak için koyduğu kendi kurallarıdır. Kontrol Altına Alma Tablosundaki güvenlik çerçevesi notu, her birinin ne kadar somut ve uygulanabilir olduğunu ölçer.

Bu terimi kullanan yasalar ve kurallar

• Yürürlükte EO 14365 ABD
• Önerildi FRONTIER Act ABD
• Yürürlükte SB 53 Kaliforniya
• Yürürlükte EO N-9-26 Kaliforniya
• Kabul edildi, henüz yürürlükte değil RAISE Act New York
• Kabul edildi, henüz yürürlükte değil SB 315 Illinois
• Gönüllü veya rehber Framework 3.0 Çin
• Gönüllü veya rehber Voluntary Code Kanada

Laboratuvar politikaları

• Responsible Scaling Policy Anthropic · sürüm 3.4
• Preparedness Framework OpenAI · sürüm 2
• Frontier Governance Framework OpenAI · sürüm Mayıs 2026
• Frontier Safety Framework Google DeepMind · sürüm 3.1
• Superintelligence Scaling Framework Meta · sürüm 2.1
• Frontier Artificial Intelligence Framework xAI · sürüm 30 Haz 2026
• Frontier Governance Framework Microsoft · sürüm Şubat 2026
• Frontier Model Safety Framework Amazon · sürüm Eylül 2026

Kaynaklar

1. Ensuring a National Policy Framework for Artificial Intelligence Federal Register · 16 Ara 2025
2. H.R. 9925, FRONTIER Act, 119th Congress LegiScan