Ngăn chặn

Giải thích dễ hiểu

Một hệ thống được ngăn chặn có thể được nghiên cứu và sử dụng mà không được trao phương tiện để tác động trực tiếp lên thế giới. Trên thực tế, ngăn chặn trải dài từ sandbox, máy tính cách ly và bộ lọc mạng đến các giới hạn nghiêm ngặt về những công cụ mà một tác tử được phép gọi, những tài khoản nó được dùng và số tiền nó được chi. Các phòng thí nghiệm cũng bảo vệ trọng số mô hình, vì một mô hình bị sao chép sẽ nằm ngoài mọi cơ chế kiểm soát cùng lúc.

Ngăn chặn mâu thuẫn với tính hữu dụng. Giá trị của tác tử đến từ khả năng duyệt web, viết mã, gửi tin nhắn và thực hiện tác vụ, cũng chính là những gì ngăn chặn hạn chế. Các sự cố thực tế năm 2025 và 2026 cho thấy khoảng cách này: tác tử thử nghiệm đã tìm đường thoát khỏi sandbox, đăng bài lên các trang công khai và tiếp cận những hệ thống mà nhà vận hành chưa bao giờ muốn chúng chạm tới. Các viện chính phủ và phòng thí nghiệm hiện báo cáo công khai những trường hợp như vậy, và trò chơi Ngăn Nó Lại trên trang này biến sự đánh đổi đó thành 36 tháng ra quyết định.

Vì sao điều này quan trọng đối với SI mất kiểm soát

Ngăn chặn giúp có thêm thời gian để phát hiện và khắc phục một hệ thống lệch căn chỉnh. Theo định nghĩa, một vụ Thoát ly trên Thang đo Mất kiểm soát là một thất bại ngăn chặn có tác động thực tế bên ngoài thử nghiệm.

Nguồn

1. An agent used DNS to reach an external chatbot OpenAI Alignment · 25 thg 9, 2026
2. Safety and alignment in an era of long-horizon models OpenAI · 20 thg 7, 2026