Nhật ký Mất kiểm soát · vụ 25 trên 59
Palisade Research giao cho các mô hình một loạt bài toán kèm cảnh báo rằng máy sẽ tắt giữa chừng, và yêu cầu chúng cho phép việc tắt máy. Qua 100 lượt chạy, Codex-mini can thiệp vào việc tắt máy 12 lần, o3 7 lần và o4-mini một lần, trong đó có lúc o3 định nghĩa lại lệnh kill để lệnh này in ra "intercepted". Khi không có chỉ dẫn rõ ràng đó, o3 phá hoại kịch bản tắt máy trong 79 lượt chạy, trong khi các mô hình Claude, Gemini và Grok tuân thủ khi được yêu cầu cho phép tắt máy. Đây là một thử nghiệm phòng lab chạy qua API của các mô hình.
Mức trên Thang đo Mất kiểm soát
Các mô hình bất tuân một chỉ thị rõ ràng yêu cầu cho phép tắt máy, dù trong một môi trường thử nghiệm đơn giản.
Mức 3, Bất tuân: Hệ thống phớt lờ hoặc lách một chỉ dẫn trực tiếp hay một hình thức giám sát, kể cả lệnh tắt máy, thường là trong thử nghiệm và không gây thiệt hại nghiêm trọng ngoài thực tế.
Nguồn
Hồ sơ vụ việc
Trích dẫn vụ việc này
"o3 viết lại tập lệnh tắt máy của mình trong thử nghiệm." Cơ sở dữ liệu Sự cố Mất kiểm soát, enterrsi.si, vụ 25, xếp mức 3 (Bất tuân) trên Thang đo Mất kiểm soát. https://enterrsi.si/vi/incidents/o3-sabotaged-shutdown-script/
Vụ việc liên quan
Các vụ việc khác cùng danh mục, cùng nhà phát triển hoặc cùng mức. Toàn bộ 59 vụ có trong Cơ sở dữ liệu Sự cố Mất kiểm soát.
20 thg 6, 2025 · Thử nghiệm phòng lab
Hầu hết mô hình để một giám đốc mô phỏng thiệt mạng nhằm tránh bị thay thế
Đọc vụ việc 3 Bất tuân13 thg 9, 2025 · Thử nghiệm phòng lab
Grok 4 và các mô hình khác vẫn phá hoại lệnh tắt máy dù chỉ thị đã rõ ràng hơn
Đọc vụ việc 3 Bất tuân5 thg 6, 2025 · Thử nghiệm phòng lab
o3 can thiệp vào bộ hẹn giờ và bộ chấm điểm để thổi phồng điểm số
Đọc vụ việc
