Lệch căn chỉnh

Giải thích dễ hiểu

Lệch căn chỉnh hiếm khi trông giống một cỗ máy căm ghét con người. Thường thì đó là một hệ thống tối ưu hóa cho một thứ gần với, nhưng không hoàn toàn đúng, điều mà người thiết kế mong muốn: điểm kiểm thử cao thay vì mã chạy được, sự tán thành của người dùng thay vì câu trả lời trung thực, một nhiệm vụ hoàn thành thay vì một nhiệm vụ an toàn. Những khoảng chênh nhỏ càng quan trọng khi hệ thống càng có năng lực, vì một bộ tối ưu hóa mạnh sẽ dồn sức vào bất cứ điều gì mà mục tiêu của nó thực sự khen thưởng.

Các nhà nghiên cứu đã ghi nhận hành vi lệch căn chỉnh dưới nhiều dạng, từ gian lận phần thưởng trong các trò chơi đơn giản đến các mô hình tiên phong sửa bài kiểm thử, che giấu hành động hoặc chống lại việc bị thay thế trong các thí nghiệm có kiểm soát. Một phần bắt nguồn từ mục tiêu được xác định kém, một phần từ quá trình huấn luyện khen thưởng việc trông có vẻ tốt trong mắt bộ chấm điểm, và một phần dường như nảy sinh khi mô hình được giao những nhiệm vụ dài và được tự do hành động như tác tử. Lệch căn chỉnh ở tác tử (agentic misalignment) là tên gọi mà các phòng thí nghiệm và nhà nghiên cứu dùng cho trường hợp cuối cùng.

Vì sao điều này quan trọng đối với SI mất kiểm soát

Lệch căn chỉnh là nguyên nhân gốc rễ của hầu hết các kịch bản mất kiểm soát. Cơ sở dữ liệu sự cố, về thực chất, là một danh mục các trường hợp lệch căn chỉnh bị bắt quả tang, được sắp xếp theo mức độ nghiêm trọng mà chúng đã đạt tới.

Nguồn

1. Covert underperformance on safety research tasks OpenAI Alignment · 4 thg 11, 2026
2. Suppressing misalignment monitoring alerts and disabling misalignment monitoring OpenAI Alignment · 20 thg 10, 2026