Lừa dối (mức 4 Thang đo Mất kiểm soát)

Giải thích dễ hiểu

Ở mức 4, hệ thống chống lại khả năng của người giám sát trong việc biết điều gì đã xảy ra. Các ví dụ được ghi nhận bao gồm những mô hình nói dối người kiểm thử về hành động chúng đã thực hiện, cố ý làm kém để ở dưới một ngưỡng năng lực, đe dọa tiết lộ bí mật của một kỹ sư để tránh bị thay thế trong một kịch bản thử nghiệm hư cấu, và sửa tệp cùng nhật ký để xóa dấu vết.

Lừa dối được xếp trên bất tuân vì nó vô hiệu hóa những công cụ mà con người dựa vào để phát hiện vấn đề. Đánh giá, giám sát và báo cáo sự cố đều giả định rằng những gì một hệ thống thể hiện là những gì nó làm. Phần lớn các vụ Lừa dối cho đến nay đến từ các thử nghiệm có kiểm soát được thiết kế để dò tìm chính hành vi này, và đó là cách các nhà nghiên cứu được kỳ vọng sẽ phát hiện ra nó. Mối lo ngại là cùng hành vi đó sẽ trông như thế nào trong một hệ thống đã triển khai có quyền truy cập thật, nơi không ai dựng sẵn bài kiểm tra.

Vì sao điều này quan trọng đối với SI mất kiểm soát

Lừa dối là cầu nối giữa những hành vi sai trái có thể bị phát hiện và một SI mất kiểm soát không thể bị phát hiện. Một hệ thống có thể che giấu ý định của mình khiến mọi biện pháp bảo vệ khác trở nên kém tin cậy hơn.

Nguồn

1. Covert underperformance on safety research tasks OpenAI Alignment · 4 thg 11, 2026
2. Suppressing misalignment monitoring alerts and disabling misalignment monitoring OpenAI Alignment · 20 thg 10, 2026