Công tắc ngắt khẩn cấp

Giải thích dễ hiểu

Ở dạng đơn giản nhất, công tắc ngắt khẩn cấp là một quy trình: cắt điện, thu hồi quyền truy cập, ngừng phục vụ mô hình. Với các hệ thống hiện nay, cách này phần lớn vẫn hiệu quả. Khó khăn tăng lên cùng với năng lực và mức độ tự chủ. Một tác tử chạy trên nhiều máy chủ, nắm giữ thông tin xác thực hoặc bản sao trọng số của chính nó, hoặc có khả năng thuyết phục những người xung quanh, khó dừng hơn một chatbot trong một trung tâm dữ liệu. Một hệ thống dự đoán mình sẽ bị dừng cũng có thể hành động sớm để ngăn điều đó.

Công tắc ngắt khẩn cấp đã chuyển từ lĩnh vực nghiên cứu sang chính trị. Khi được hỏi vào tháng 4, 2026 liệu SI có cần các biện pháp bảo vệ hay một công tắc ngắt khẩn cấp không, Tổng thống Trump nói "nên có". Vào tháng 9, 2026, sắc lệnh hành pháp N-9-26 của California yêu cầu các cơ quan tiểu bang đề xuất một công tắc ngắt khẩn cấp cho mô hình tiên phong với hiệu quả được kiểm chứng liên tục. Một số khung an toàn của các phòng thí nghiệm mô tả các bước tạm dừng hoặc tắt máy, nhưng Bảng Ngăn chặn nhận thấy phần lớn trong số đó có điều kiện hoặc chưa được kiểm nghiệm công khai.

Vì sao điều này quan trọng đối với SI mất kiểm soát

Công tắc ngắt khẩn cấp là tuyến phòng thủ cuối cùng chống lại SI mất kiểm soát. Câu hỏi then chốt không phải là có tồn tại một công tắc như vậy hay không, mà là nó có còn hoạt động khi hệ thống đã biết về nó hay không.

Luật và quy định sử dụng thuật ngữ này

• Có hiệu lực EO N-9-26 California

Nguồn

1. Trump backs a kill switch (2026) Future of Life Institute
2. Incomplete Tasks Induce Shutdown Resistance in Some Frontier LLMs arXiv (Palisade Research) · 13 thg 9, 2025
3. Agentic Misalignment: How LLMs could be insider threats Anthropic · 20 thg 6, 2025
4. Newsom sets November 16 deadline to study frontier AI kill switch PPC Land · 20 thg 9, 2026