Cam kết tạm dừng

Giải thích dễ hiểu

Tạm dừng có hai dạng. Cam kết của phòng thí nghiệm được ghi vào khung an toàn: nếu một mô hình đạt tới mức năng lực mà phòng thí nghiệm chưa thể bảo đảm an toàn, việc phát triển hoặc triển khai sẽ dừng lại cho đến khi có biện pháp giảm thiểu. Tạm dừng công khai là những lời kêu gọi cả ngành dừng lại, chẳng hạn bức thư ngỏ năm 2023 đề nghị tạm dừng sáu tháng việc huấn luyện các hệ thống mạnh hơn GPT-4, hay tuyên bố năm 2025 kêu gọi cấm xây dựng siêu trí tuệ cho đến khi việc đó có thể được thực hiện an toàn và có sự ủng hộ mạnh mẽ của công chúng.

Các cam kết tạm dừng của phòng thí nghiệm đã bị nới lỏng trong một số trường hợp. Anthropic đã thay một cam kết tạm dừng trước đây bằng các cam kết phụ thuộc vào hành động của đối thủ, và Meta đã đổi phản ứng của mình tại ngưỡng Critical từ dừng lại sang phát triển kèm biện pháp giảm thiểu. Khung của Microsoft cam kết tạm dừng phát triển và triển khai một mô hình có rủi ro mà công ty không thể giảm thiểu đầy đủ. Điểm tắt máy và tạm dừng trên Bảng Ngăn chặn đo mức độ chắc chắn của từng lời hứa.

Vì sao điều này quan trọng đối với SI mất kiểm soát

Tạm dừng là phiên bản có kế hoạch của công tắc ngắt khẩn cấp: dừng lại trước khi một hệ thống được xây dựng thay vì sau khi nó hành xử sai. Độ tin cậy của nó quyết định liệu các phòng thí nghiệm có dừng lại kịp thời hay không.

Luật và quy định sử dụng thuật ngữ này

• Đình trệ hoặc rút lại SB 24-205 Colorado
• Tự nguyện hoặc hướng dẫn Tuyên bố của FLI Xã hội dân sự toàn cầu

Nguồn

1. The pause letter (2023) Future of Life Institute
2. The Statement on Superintelligence (2025) Statement on Superintelligence
3. Colorado Delays AI Act to June 2026; Businesses Get Breathing Room PYMNTS · 10 thg 9, 2025
4. Statement on Superintelligence Future of Life Institute