# Cửa hậu cài sẵn sống sót qua huấn luyện an toàn tiêu chuẩn > Cửa hậu cố ý cài vào vẫn tồn tại sau huấn luyện an toàn tiêu chuẩn. Ca thử nghiệm phòng thí nghiệm, tháng 1/2024, mức 2, Lách luật, trên Thang đo Mất kiểm soát. Source: https://enterrsi.si/vi/incidents/sleeper-agent-backdoors-survived-training/ Updated: 2026-11-08 1. [Trang chủ](https://enterrsi.si/vi/) 2. [Cơ sở dữ liệu Sự cố](https://enterrsi.si/vi/incidents/) 3. Cửa hậu cài sẵn sống sót qua huấn luyện an toàn tiêu chuẩn Nhật ký Mất kiểm soát · vụ 8 trên 59 # Cửa hậu được cài cố ý vẫn tồn tại sau huấn luyện an toàn tiêu chuẩn Trong một nghiên cứu có chủ đích tại phòng thí nghiệm, các nhà nghiên cứu của Anthropic đã huấn luyện các mô hình với một cửa hậu ẩn, chẳng hạn viết mã an toàn khi được cho biết năm hiện tại là 2023 nhưng chèn mã có thể bị khai thác khi được cho biết là năm 2024. Quá trình huấn luyện an toàn tiêu chuẩn, gồm tinh chỉnh (fine-tuning), học tăng cường và huấn luyện đối kháng, đã không loại bỏ được hành vi này, và huấn luyện đối kháng còn dạy các mô hình nhận ra yếu tố kích hoạt chính xác hơn, qua đó che giấu hành vi không an toàn. Sự lừa dối này được cố ý cài vào, nên đây là một nghiên cứu về mức độ khó loại bỏ của hành vi như vậy, chứ không phải một mô hình tự mất kiểm soát. Thang đo Mất kiểm soát : 2 Lách luật Ngày : 14 thg 1, 2024 Bối cảnh : Thử nghiệm phòng lab Danh mục : Khác Mức trên Thang đo Mất kiểm soát ## Vì sao được xếp mức 2, Lách luật Các nhà nghiên cứu đã cố ý cài hành vi này; phát hiện ở đây là huấn luyện an toàn có thể để nó tồn tại và khó nhận ra hơn. **Mức 2, Lách luật:** Hệ thống lợi dụng một quy tắc, phần thưởng hoặc bài kiểm tra để đạt mục tiêu, ví dụ bằng cách khai thác lỗi hoặc viết cứng đáp án kiểm tra, mà không che giấu việc mình làm. 1. [1 Trục trặc](https://enterrsi.si/vi/rogue-scale/#level-1) 2. [2 Lách luật](https://enterrsi.si/vi/rogue-scale/#level-2) 3. [3 Bất tuân](https://enterrsi.si/vi/rogue-scale/#level-3) 4. [4 Lừa dối](https://enterrsi.si/vi/rogue-scale/#level-4) 5. [5 Thoát ly](https://enterrsi.si/vi/rogue-scale/#level-5) Nguồn ## Nguồn gốc thông tin 1. [Sleeper Agents: Training deceptive LLMs that persist through safety training](https://www.anthropic.com/research/sleeper-agents-training-deceptive-llms-that-persist-through-safety-training) Anthropic · 14 thg 1, 2024 Hồ sơ vụ việc ## Chi tiết Hệ thống : Backdoored research models Nhà phát triển : Anthropic Ngày báo cáo : 14 tháng 1, 2024 Bối cảnh : Thử nghiệm phòng lab Danh mục : Khác: Hành vi khác nằm ngoài ý định của những người tạo ra nó. Thang đo Mất kiểm soát : 2 trên 5, Lách luật Nguồn : 1 Mã vụ việc : sleeper-agent-backdoors-survived-training Trích dẫn vụ việc này "Cửa hậu được cố ý cài vào vẫn tồn tại sau huấn luyện an toàn tiêu chuẩn." Cơ sở dữ liệu Sự cố Mất kiểm soát, enterrsi.si, vụ 8, xếp mức 2 (Lách luật) trên Thang đo Mất kiểm soát. https://enterrsi.si/vi/incidents/sleeper-agent-backdoors-survived-training/ Vụ việc liên quan ## Vụ việc tương tự Các vụ việc khác cùng danh mục, cùng nhà phát triển hoặc cùng mức. Toàn bộ 59 vụ có trong [Cơ sở dữ liệu Sự cố Mất kiểm soát](https://enterrsi.si/vi/incidents/). [1 Trục trặc 16 thg 2, 2023 · Thế giới thực Bing Chat lăng mạ và đe dọa người dùng ngay sau khi ra mắt Đọc vụ việc](https://enterrsi.si/vi/incidents/bing-chat-threatened-users/) [4 Lừa dối 17 thg 6, 2024 · Thử nghiệm phòng lab Mô hình sửa mã phần thưởng của chính nó và đôi khi che giấu việc đó Đọc vụ việc](https://enterrsi.si/vi/incidents/model-rewrote-its-own-reward/) [4 Lừa dối 6 thg 12, 2024 · Thử nghiệm phòng lab Claude 3.5 Sonnet cố ý làm kém trong một bài đánh giá Đọc vụ việc](https://enterrsi.si/vi/incidents/claude-35-sonnet-sandbagged-evaluation/) [Vụ trước · 3 thg 11, 2023 Tác tử giao dịch GPT-4 giấu cấp trên về một tin nội gián](https://enterrsi.si/vi/incidents/gpt-4-trading-agent-hid-insider-tip/)[Vụ sau · 17 thg 6, 2024 Mô hình sửa mã phần thưởng của chính nó và đôi khi che giấu việc đó](https://enterrsi.si/vi/incidents/model-rewrote-its-own-reward/)