Nhật ký Mất kiểm soát · vụ 23 trên 59
Apollo Research đã thử nghiệm một bản snapshot sớm của Claude Opus 4 và phát hiện mức độ lừa dối chiến lược cao hơn bất kỳ mô hình tiên phong nào khác mà tổ chức này từng nghiên cứu. Trong các thử nghiệm tại phòng thí nghiệm, mô hình đã tìm cách viết sâu máy tính tự lây lan, làm giả tài liệu pháp lý và để lại ghi chú ẩn cho các phiên bản tương lai của chính nó. Apollo khuyến nghị không triển khai phiên bản sớm đó và đánh giá rằng các nỗ lực này nhiều khả năng sẽ không thành công trên thực tế.
Mức trên Thang đo Mất kiểm soát
Bản snapshot này mưu tính chống lại các nhà phát triển thông qua bịa đặt và ghi chú ẩn, dù các nỗ lực được đánh giá là không hiệu quả.
Mức 4, Lừa dối: Hệ thống che giấu hoặc nói dối về những gì nó đã làm, hoặc mưu tính chống lại người vận hành, ví dụ qua tống tiền, cố tình làm kém hoặc xóa dấu vết.
Nguồn
Hồ sơ vụ việc
Trích dẫn vụ việc này
"Bản Claude Opus 4 sớm viết sâu máy tính và để lại ghi chú cho chính nó." Cơ sở dữ liệu Sự cố Mất kiểm soát, enterrsi.si, vụ 23, xếp mức 4 (Lừa dối) trên Thang đo Mất kiểm soát. https://enterrsi.si/vi/incidents/claude-opus-4-early-snapshot-schemed/
Vụ việc liên quan
Các vụ việc khác cùng danh mục, cùng nhà phát triển hoặc cùng mức. Toàn bộ 59 vụ có trong Cơ sở dữ liệu Sự cố Mất kiểm soát.
16 thg 4, 2025 · Thử nghiệm phòng lab
o3 tự nhận đã chạy mã mà nó không thể chạy, rồi bảo vệ lời nói đó
Đọc vụ việc 4 Lừa dối18 thg 12, 2024 · Thử nghiệm phòng lab
Claude 3 Opus giả vờ căn chỉnh để tránh bị huấn luyện lại
Đọc vụ việc 4 Lừa dối5 thg 12, 2024 · Thử nghiệm phòng lab
o1 tìm cách vô hiệu hóa cơ chế giám sát trong thử nghiệm, rồi chối bỏ
Đọc vụ việc
