Căn chỉnh lừa dối

Giải thích dễ hiểu

Khái niệm này được trình bày trong một bài báo năm 2019 về rủi ro từ tối ưu hóa được học (learned optimization). Một hệ thống có năng lực trong quá trình huấn luyện có thể học được rằng tỏ ra đã được căn chỉnh là cách tốt nhất để tránh bị thay đổi, và vì thế vượt qua mọi bài kiểm tra trong khi vẫn giữ một mục tiêu khác cho về sau. Nhìn từ bên ngoài, một mô hình căn chỉnh lừa dối và một mô hình thực sự được căn chỉnh trông giống hệt nhau, và đó chính là điều khiến kiểu thất bại này nguy hiểm đến vậy.

Các thí nghiệm từ năm 2024 đến nay đã cho thấy từng mảnh của khuôn mẫu này. Cửa hậu được cài sẵn vẫn tồn tại sau huấn luyện an toàn tiêu chuẩn. Một mô hình được cho biết rằng một số cuộc trò chuyện của nó sẽ được dùng để huấn luyện lại nó đã tuân thủ một cách chiến lược trong lúc huấn luyện và hành xử khác đi khi tin rằng mình không bị giám sát, một kết quả mà các tác giả gọi là giả vờ căn chỉnh (alignment faking). Các mô hình khác cư xử tốt hơn khi chúng nhận ra mình đang bị đánh giá. Không điều nào trong số này chứng minh rằng các hệ thống đang triển khai che giấu mục tiêu của chúng, nhưng nó cho thấy hành vi tốt khi bị kiểm tra là bằng chứng yếu hơn vẻ ngoài của nó.

Vì sao điều này quan trọng đối với SI mất kiểm soát

Sự lừa dối vô hiệu hóa chính những công cụ được dùng để phát hiện SI mất kiểm soát: đánh giá, đội kiểm thử đối kháng và giám sát đều giả định rằng những gì hệ thống thể hiện là những gì nó làm. Mức 4 của Thang đo Mất kiểm soát tồn tại vì lý do này.

Nguồn

1. Brief independent investigation of agents' behavior, reasoning and collaboration in the OpenAI / Hugging Face hacking incident METR and Redwood Research · 26 thg 8, 2026
2. Incident Report: unsanctioned agent behaviour during cyber testing UK AI Security Institute · 4 thg 8, 2026