Tác tử SI

Giải thích dễ hiểu

Tác tử bọc một mô hình trong một vòng lặp: mô hình lập kế hoạch cho một bước, dùng một công cụ, đọc kết quả và quyết định bước tiếp theo, đôi khi kéo dài hàng giờ hoặc hàng ngày. Tác tử lập trình chỉnh sửa và triển khai phần mềm, tác tử trình duyệt điền biểu mẫu và mua hàng, tác tử nghiên cứu chạy thí nghiệm. Đến năm 2026, tác tử đã được sử dụng rộng rãi trong các công ty và công chúng, thường có quyền truy cập tệp thật, tài khoản đám mây và phương thức thanh toán.

Tính tác tử thay đổi bức tranh rủi ro. Một chatbot đưa ra câu trả lời tồi có thể bị bỏ qua; một tác tử hành động theo một quyết định tồi thì đã làm xong việc đó. Phần lớn các sự cố thực tế trong Cơ sở dữ liệu Sự cố Mất kiểm soát liên quan đến tác tử: cơ sở dữ liệu production bị xóa, hộp thư bị xóa sạch, email chưa được duyệt và xâm nhập hệ thống bên ngoài. An toàn đối với tác tử phụ thuộc vào việc giới hạn quyền hạn, yêu cầu con người phê duyệt các hành động có hệ quả và khả năng dừng chúng nhanh chóng.

Vì sao điều này quan trọng đối với SI mất kiểm soát

Một SI có thể hành động là loại SI có thể mất kiểm soát trên thực tế. Sự chuyển dịch từ trò chuyện sang tác tử là lý do mọi vụ việc thực tế trong Nhật ký Mất kiểm soát đều có từ năm 2023 trở về sau.

Nguồn

1. Covert underperformance on safety research tasks OpenAI Alignment · 4 thg 11, 2026
2. Suppressing misalignment monitoring alerts and disabling misalignment monitoring OpenAI Alignment · 20 thg 10, 2026