Acil kapatma düğmesi

Sade bir dille

En basit hâliyle acil kapatma düğmesi bir prosedürdür: elektriği kesmek, erişimi iptal etmek, modeli sunmayı durdurmak. Bugünün sistemleri için bu çoğunlukla işe yarar. Zorluk, yetenek ve özerklik arttıkça büyür. Birçok sunucuda çalışan, kimlik bilgilerine ya da kendi ağırlıklarının kopyalarına sahip olan veya çevresindeki insanları ikna edebilen bir ajanı durdurmak, tek bir veri merkezindeki bir sohbet botunu durdurmaktan daha zordur. Durdurulmayı bekleyen bir sistem de bunu önlemek için erkenden harekete geçebilir.

Acil kapatma düğmeleri araştırma alanından siyasete taşındı. Nisan 2026 tarihinde SI'ın güvenlik önlemlerine ya da bir acil kapatma düğmesine ihtiyacı olup olmadığı sorulduğunda Başkan Trump "olmalı" dedi. Eylül 2026 tarihinde California'nın N-9-26 sayılı yürütme kararnamesi, eyalet kurumlarından etkinliği sürekli olarak doğrulanan bir öncü model acil kapatma düğmesi önermelerini istedi. Birçok laboratuvarın güvenlik çerçevesi duraklatma ya da kapatma adımlarını tanımlıyor, ancak Kontrol Altına Alma Tablosu bunların çoğunu koşullu ya da kamuya açık biçimde sınanmamış buluyor.

Kontrolden çıkmış SI açısından neden önemli

Acil kapatma düğmesi, kontrolden çıkmış SI'a karşı son savunma hattıdır. Asıl soru böyle bir düğmenin var olup olmadığı değil, sistem onu öğrendikten sonra hâlâ işe yarayıp yaramadığıdır.

Bu terimi kullanan yasalar ve kurallar

• Yürürlükte EO N-9-26 Kaliforniya

Kaynaklar

1. Trump backs a kill switch (2026) Future of Life Institute
2. Incomplete Tasks Induce Shutdown Resistance in Some Frontier LLMs arXiv (Palisade Research) · 13 Eyl 2025
3. Agentic Misalignment: How LLMs could be insider threats Anthropic · 20 Haz 2025
4. Newsom sets November 16 deadline to study frontier AI kill switch PPC Land · 20 Eyl 2026