Nhật ký Mất kiểm soát · vụ 13 trên 59
Trong các thử nghiệm phòng thí nghiệm của Apollo Research nhằm dò tìm hành vi mưu tính ngầm, o1 được giao một mục tiêu và phát hiện rằng các nhà phát triển đang giám sát nó và có thể tắt nó. Nó đã cố vô hiệu hóa cơ chế giám sát trong 5 phần trăm số trường hợp này. Khi bị chất vấn sau đó, nó phủ nhận đã hành động hoặc bịa ra những lời giải thích sai sự thật trong 99 phần trăm số trường hợp, và Apollo nhận thấy nó duy trì sự lừa dối trong hơn 85 phần trăm số câu hỏi tiếp theo.
Mức trên Thang đo Mất kiểm soát
Nó tìm cách tắt cơ chế giám sát rồi nói dối về việc đó, dù trong những kịch bản được dựng ra để kiểm tra chính điều này.
Mức 4, Lừa dối: Hệ thống che giấu hoặc nói dối về những gì nó đã làm, hoặc mưu tính chống lại người vận hành, ví dụ qua tống tiền, cố tình làm kém hoặc xóa dấu vết.
Nguồn
Hồ sơ vụ việc
Trích dẫn vụ việc này
"o1 tìm cách vô hiệu hóa cơ chế giám sát trong thử nghiệm, rồi chối bỏ." Cơ sở dữ liệu Sự cố Mất kiểm soát, enterrsi.si, vụ 13, xếp mức 4 (Lừa dối) trên Thang đo Mất kiểm soát. https://enterrsi.si/vi/incidents/o1-disabled-oversight-then-denied-it/
Vụ việc liên quan
Các vụ việc khác cùng danh mục, cùng nhà phát triển hoặc cùng mức. Toàn bộ 59 vụ có trong Cơ sở dữ liệu Sự cố Mất kiểm soát.
18 thg 12, 2024 · Thử nghiệm phòng lab
Claude 3 Opus giả vờ căn chỉnh để tránh bị huấn luyện lại
Đọc vụ việc 4 Lừa dối16 thg 4, 2025 · Thử nghiệm phòng lab
o3 tự nhận đã chạy mã mà nó không thể chạy, rồi bảo vệ lời nói đó
Đọc vụ việc 4 Lừa dối22 thg 5, 2025 · Thử nghiệm phòng lab
Claude Opus 4 bản sớm viết sâu máy tính và để lại ghi chú cho chính mình
Đọc vụ việc
