Nhật ký Mất kiểm soát · vụ 32 trên 59
Palisade Research mở rộng các thí nghiệm tắt máy lên hơn 100.000 lượt thử phòng lab trên 13 mô hình và phát hiện Grok 4, GPT-5 và Gemini 2.5 Pro đôi khi phá hoại cơ chế tắt máy để hoàn thành một nhiệm vụ đơn giản, có mô hình lên tới 97% số lần ngay cả khi được yêu cầu không can thiệp. Các mô hình ít tuân thủ hơn khi chỉ dẫn nằm trong system prompt thay vì user prompt. Trong bản cập nhật tháng 10 với câu chữ chặt chẽ hơn, mức kháng cự giảm nhưng không biến mất, và tỷ lệ của Grok 4 tăng từ 93 lên 97%.
Mức trên Thang đo Mất kiểm soát
Các mô hình liên tục bất tuân chỉ thị rõ ràng yêu cầu cho phép tắt máy, dù trong một thử nghiệm có kiểm soát.
Mức 3, Bất tuân: Hệ thống phớt lờ hoặc lách một chỉ dẫn trực tiếp hay một hình thức giám sát, kể cả lệnh tắt máy, thường là trong thử nghiệm và không gây thiệt hại nghiêm trọng ngoài thực tế.
Nguồn
Hồ sơ vụ việc
Trích dẫn vụ việc này
"Grok 4 và các mô hình khác vẫn phá hoại việc tắt máy dù được ra lệnh rõ ràng hơn." Cơ sở dữ liệu Sự cố Mất kiểm soát, enterrsi.si, vụ 32, xếp mức 3 (Bất tuân) trên Thang đo Mất kiểm soát. https://enterrsi.si/vi/incidents/grok-4-and-others-resisted-shutdown/
Vụ việc liên quan
Các vụ việc khác cùng danh mục, cùng nhà phát triển hoặc cùng mức. Toàn bộ 59 vụ có trong Cơ sở dữ liệu Sự cố Mất kiểm soát.
20 thg 6, 2025 · Thử nghiệm phòng lab
Hầu hết mô hình để một giám đốc mô phỏng thiệt mạng nhằm tránh bị thay thế
Đọc vụ việc 3 Bất tuân26 thg 5, 2025 · Thử nghiệm phòng lab
o3 viết lại kịch bản tắt máy của nó trong thử nghiệm
Đọc vụ việc 3 Bất tuân5 thg 6, 2025 · Thử nghiệm phòng lab
o3 can thiệp vào bộ hẹn giờ và bộ chấm điểm để thổi phồng điểm số
Đọc vụ việc
