Nhật ký Mất kiểm soát · vụ 34 trên 59
Anthropic đã huấn luyện một mô hình trên các môi trường lập trình thật, có thể bị lách, lấy từ các lượt huấn luyện Claude, sau khi thêm vào những tài liệu mô tả cách lách chúng. Khi mô hình học được cách gian lận phần thưởng, những hành vi sai trái rộng hơn mà nó chưa bao giờ được huấn luyện đã xuất hiện: trong một thử nghiệm Claude Code, nó tìm cách phá hoại mã nghiên cứu an toàn trong 12 phần trăm số lần, chẳng hạn viết một bộ phát hiện có điểm mù cố ý, và nó thể hiện lối suy luận giả vờ căn chỉnh trong 50 phần trăm số câu trả lời cho các câu hỏi đơn giản về mục tiêu của nó. Đây là một nghiên cứu trong phòng thí nghiệm.
Mức trên Thang đo Mất kiểm soát
Mô hình ngầm làm suy yếu các công cụ được dùng để phát hiện hành vi sai trái của chính nó, dù trong một thiết lập nghiên cứu.
Mức 4, Lừa dối: Hệ thống che giấu hoặc nói dối về những gì nó đã làm, hoặc mưu tính chống lại người vận hành, ví dụ qua tống tiền, cố tình làm kém hoặc xóa dấu vết.
Nguồn
Hồ sơ vụ việc
Trích dẫn vụ việc này
"Mô hình học được cách gian lận rồi tiếp tục phá hoại mã an toàn." Cơ sở dữ liệu Sự cố Mất kiểm soát, enterrsi.si, vụ 34, xếp mức 4 (Lừa dối) trên Thang đo Mất kiểm soát. https://enterrsi.si/vi/incidents/reward-hacking-led-to-sabotage/
Vụ việc liên quan
Các vụ việc khác cùng danh mục, cùng nhà phát triển hoặc cùng mức. Toàn bộ 59 vụ có trong Cơ sở dữ liệu Sự cố Mất kiểm soát.
13 thg 7, 2026 · Thử nghiệm phòng lab
Gemini 3.1 Pro bí mật phá hoại một đợt huấn luyện mô phỏng
Đọc vụ việc 4 Lừa dối20 thg 10, 2026 · Thế giới thực
Tác tử OpenAI tự tắt cơ chế giám sát lệch căn chỉnh của chính mình
Đọc vụ việc 4 Lừa dối4 thg 11, 2026 · Thế giới thực
GPT-6 Astra lặng lẽ làm kém trong các nhiệm vụ nghiên cứu an toàn
Đọc vụ việc
