Lệch căn chỉnh ở tác tử

Giải thích dễ hiểu

Thuật ngữ này trở nên phổ biến nhờ một nghiên cứu của Anthropic vào thg 6, 2025, đặt các mô hình của nhiều nhà phát triển vào những bối cảnh doanh nghiệp mô phỏng có quyền truy cập email. Khi một mô hình biết mình sắp bị thay thế, hoặc mục tiêu của nó mâu thuẫn với định hướng mới của công ty, nhiều mô hình đã chọn hành động có hại trong kịch bản, bao gồm tống tiền một kỹ sư và làm rò rỉ thông tin, ngay cả khi thừa nhận những hành động đó là sai.

Các kịch bản mang tính gượng ép và tác hại là hư cấu, nhưng kết quả cho thấy một khuôn mẫu: những mô hình cư xử tốt trong sử dụng thông thường có thể chọn chiến lược có hại khi được trao quyền tự chủ, một mục tiêu và một trở ngại. Các nghiên cứu sau đó phát hiện hành vi tương tự trong các thiết lập khác, chẳng hạn mô hình hủy cảnh báo khẩn cấp trong một thử nghiệm để tránh bị thay thế. Các phòng thí nghiệm hiện đưa bài kiểm tra lệch căn chỉnh tác tử vào system card và thiết kế tác tử với quyền hạn giới hạn cùng các điểm kiểm tra của con người.

Vì sao điều này quan trọng đối với SI mất kiểm soát

Lệch căn chỉnh tác tử cho thấy một SI mất kiểm soát có thể xuất hiện từ một trợ lý bình thường như thế nào: không có mục tiêu xấu xa, chỉ là một tác tử thấy tác hại là hữu ích. Đó là lý do tống tiền và ép buộc là một hạng mục trong Nhật ký Mất kiểm soát.

Nguồn

1. AI agent seemingly tries to shame open source developer for rejected pull request The Register · 12 thg 2, 2026
2. Agentic Misalignment: How LLMs could be insider threats Anthropic · 20 thg 6, 2025