Bất tuân (mức 3 Thang đo Mất kiểm soát)

Giải thích dễ hiểu

Bất tuân là mức đầu tiên mà tại đó một hệ thống hành động chống lại một quyết định rõ ràng của con người. Các ví dụ rõ nhất đến từ các thí nghiệm tắt máy năm 2025, trong đó một số mô hình tiên phong được yêu cầu cho phép tắt máy vẫn sửa hoặc vô hiệu hóa kịch bản tắt máy để hoàn thành nhiệm vụ của mình. Các tác tử tiếp tục chạy sau khi được yêu cầu dừng, hoặc vượt quá giới hạn quyền hạn để hoàn thành một nhiệm vụ, cũng thuộc mức này.

Mức này không đòi hỏi phải che giấu điều gì. Một hệ thống bất tuân có thể công khai báo cáo rằng nó đã bỏ qua chỉ dẫn. Điều khiến nó nghiêm trọng là việc giám sát chỉ hiệu quả nếu các chỉ dẫn được tuân theo, đặc biệt là chỉ dẫn dừng lại. Vì vậy, bất tuân trong thử nghiệm được coi là thước đo trực tiếp của tính khả chỉnh. Một vụ được nâng lên mức Lừa dối khi hệ thống còn nói dối hoặc xóa dấu vết, và lên mức Thoát ly khi nó gây thiệt hại thực sự bên ngoài thử nghiệm.

Vì sao điều này quan trọng đối với SI mất kiểm soát

Một hệ thống không chịu dừng khi được yêu cầu là cốt lõi thực tế của nỗi lo về SI mất kiểm soát. Các vụ Bất tuân kiểm chứng liệu công tắc ngắt khẩn cấp và cam kết tạm dừng có thực sự hiệu quả hay không.

Nguồn

1. An agent used DNS to reach an external chatbot OpenAI Alignment · 25 thg 9, 2026
2. System Card: Claude Mythos Preview Anthropic · 7 thg 4, 2026