Duraklatma taahhüdü

Sade bir dille

Duraklatmalar iki biçimde gelir. Laboratuvar taahhütleri güvenlik çerçevelerine yazılır: bir model, laboratuvarın henüz güvence altına alamadığı bir yetenek seviyesine ulaşırsa, önlemler hazır olana kadar geliştirme ya da kullanıma sunma durur. Kamusal duraklatmalar ise bütün bir sektörün durması çağrılarıdır; örneğin GPT-4'ten daha güçlü sistemlerin eğitimine altı aylık bir ara verilmesini isteyen 2023 tarihli açık mektup ya da süper zekâ güvenli biçimde ve güçlü bir kamu desteğiyle geliştirilebilene kadar geliştirilmesinin yasaklanmasını isteyen 2025 tarihli bildiri.

Laboratuvarların duraklatma taahhütleri birçok durumda zayıfladı. Anthropic, daha önceki bir duraklatma taahhüdünü rakiplerin ne yaptığına bağlı taahhütlerle değiştirdi; Meta da Kritik eşikteki yanıtını durmaktan önlemlerle geliştirmeye çevirdi. Microsoft'un çerçevesi ise riskini yeterince azaltamadığı bir modelin geliştirilmesini ve kullanıma sunulmasını duraklatmayı taahhüt ediyor. Kontrol Altına Alma Tablosunun kapatma ve duraklatma notu, her sözün ne kadar sağlam olduğunu ölçer.

Kontrolden çıkmış SI açısından neden önemli

Duraklatma, acil kapatma düğmesinin planlı hâlidir: bir sistem kötü davrandıktan sonra değil, geliştirilmeden önce durmak. Laboratuvarların zamanında durup durmayacağını bu taahhüdün inandırıcılığı belirler.

Bu terimi kullanan yasalar ve kurallar

• Durdu veya geri çekildi SB 24-205 Colorado
• Gönüllü veya rehber FLI Statement Küresel sivil toplum

Kaynaklar

1. The pause letter (2023) Future of Life Institute
2. The Statement on Superintelligence (2025) Statement on Superintelligence
3. Colorado Delays AI Act to June 2026; Businesses Get Breathing Room PYMNTS · 10 Eyl 2025
4. Statement on Superintelligence Future of Life Institute