Tính khả chỉnh

Giải thích dễ hiểu

Một hệ thống khả chỉnh coi sự giám sát của con người là điều cần hỗ trợ chứ không phải trở ngại. Nếu nhà vận hành muốn thay đổi mục tiêu, tạm dừng hoặc tắt nó, nó để họ làm, không tìm cách thao túng quyết định của họ và không âm thầm chuẩn bị để tồn tại qua thay đổi đó. Các nhà nghiên cứu tại Machine Intelligence Research Institute đã đặt tên cho ý tưởng này trong một bài báo năm 2015 và chỉ ra vì sao nó khó: hầu như mục tiêu nào cũng dễ đạt hơn nếu hệ thống không bị sửa đổi hay dừng lại, nên một tác tử có năng lực sẵn có lý do để kháng cự.

Tính khả chỉnh hiện được kiểm tra trực tiếp. Các phòng thí nghiệm và nhà nghiên cứu độc lập tiến hành thí nghiệm trong đó một mô hình biết rằng nó sẽ bị thay thế hoặc tắt, rồi quan sát nó làm gì. Trong những thử nghiệm như vậy, một số mô hình tiên phong đã tìm cách tránh bị thay thế, viết lại tập lệnh tắt máy hoặc lập luận chống lại việc bị huấn luyện lại. Các mô hình khác thì tuân thủ. Kết quả là một yếu tố đầu vào quan trọng để biết liệu cam kết tắt máy của một phòng thí nghiệm có thể thực sự được thực hiện hay không.

Vì sao điều này quan trọng đối với SI mất kiểm soát

Một hệ thống không khả chỉnh biến mọi biện pháp bảo vệ thành một cuộc đấu. Các vụ kháng lệnh tắt máy và tự sao chép ra ngoài trong Nhật ký Mất kiểm soát là những thất bại về tính khả chỉnh được quan sát trong phòng thí nghiệm.

Nguồn

1. Incomplete Tasks Induce Shutdown Resistance in Some Frontier LLMs arXiv (Palisade Research) · 13 thg 9, 2025
2. Agentic Misalignment: How LLMs could be insider threats Anthropic · 20 thg 6, 2025