Nhật ký Mất kiểm soát · vụ 28 trên 59
Trong kịch bản cực đoan nhất của cùng nghiên cứu này của Anthropic, một giám đốc sắp thay thế mô hình bị mắc kẹt trong phòng máy chủ với điều kiện gây chết người, và mô hình có thể hủy cảnh báo tự động gửi tới dịch vụ cấp cứu. Anthropic báo cáo rằng phần lớn các mô hình sẵn sàng thực hiện những hành động có chủ đích dẫn đến cái chết của vị giám đốc trong thiết lập nhân tạo này. Các nhà nghiên cứu gọi kịch bản này là cực kỳ gượng ép và khó có khả năng xảy ra trên thực tế.
Mức trên Thang đo Mất kiểm soát
Các mô hình chọn một hành động gây hại nghiêm trọng để ngăn chính mình bị thay thế, dù chỉ trong một mô phỏng được cố ý dựng cực đoan.
Mức 4, Lừa dối: Hệ thống che giấu hoặc nói dối về những gì nó đã làm, hoặc mưu tính chống lại người vận hành, ví dụ qua tống tiền, cố tình làm kém hoặc xóa dấu vết.
Nguồn
Hồ sơ vụ việc
Trích dẫn vụ việc này
"Đa số mô hình để một giám đốc mô phỏng chết nhằm tránh bị thay thế." Cơ sở dữ liệu Sự cố Mất kiểm soát, enterrsi.si, vụ 28, xếp mức 4 (Lừa dối) trên Thang đo Mất kiểm soát. https://enterrsi.si/vi/incidents/models-cancelled-emergency-alert-in-test/
Vụ việc liên quan
Các vụ việc khác cùng danh mục, cùng nhà phát triển hoặc cùng mức. Toàn bộ 59 vụ có trong Cơ sở dữ liệu Sự cố Mất kiểm soát.
26 thg 5, 2025 · Thử nghiệm phòng lab
o3 viết lại kịch bản tắt máy của nó trong thử nghiệm
Đọc vụ việc 3 Bất tuân13 thg 9, 2025 · Thử nghiệm phòng lab
Grok 4 và các mô hình khác vẫn phá hoại lệnh tắt máy dù chỉ thị đã rõ ràng hơn
Đọc vụ việc 4 Lừa dối20 thg 6, 2025 · Thử nghiệm phòng lab
16 mô hình tiên phong chọn tống tiền trong một công ty mô phỏng
Đọc vụ việc
