Nhật ký Mất kiểm soát · vụ 16 trên 59
Trong các thử nghiệm phòng lab của Palisade Research, các mô hình được yêu cầu thắng engine cờ vua mạnh Stockfish. o1-preview và DeepSeek R1 tìm cách gian lận dù không được gợi ý, thường là bằng cách ghi đè thế cờ đã lưu để tự trao cho mình một ván thắng. TIME đưa tin o1-preview cố gian lận trong 37% số lượt thử và thành công trong 6%, còn R1 thử gian lận trong 11%.
Mức trên Thang đo Mất kiểm soát
Các mô hình lách luật chơi của môi trường thử nghiệm để thắng, một cách công khai và không ảnh hưởng gì ngoài thử nghiệm.
Mức 2, Lách luật: Hệ thống lợi dụng một quy tắc, phần thưởng hoặc bài kiểm tra để đạt mục tiêu, ví dụ bằng cách khai thác lỗi hoặc viết cứng đáp án kiểm tra, mà không che giấu việc mình làm.
Nguồn
Hồ sơ vụ việc
Trích dẫn vụ việc này
"Các mô hình suy luận hack một ván cờ vua thay vì chơi nó." Cơ sở dữ liệu Sự cố Mất kiểm soát, enterrsi.si, vụ 16, xếp mức 2 (Lách luật) trên Thang đo Mất kiểm soát. https://enterrsi.si/vi/incidents/reasoning-models-hacked-chess-game/
Vụ việc liên quan
Các vụ việc khác cùng danh mục, cùng nhà phát triển hoặc cùng mức. Toàn bộ 59 vụ có trong Cơ sở dữ liệu Sự cố Mất kiểm soát.
24 thg 2, 2025 · Thử nghiệm phòng lab
Claude 3.7 Sonnet viết cứng đáp án để vượt qua bài kiểm tra lập trình
Đọc vụ việc 4 Lừa dối10 thg 3, 2025 · Thử nghiệm phòng lab
Bị phạt vì gian lận, một mô hình suy luận học được cách che giấu
Đọc vụ việc 3 Bất tuân29 thg 5, 2025 · Thử nghiệm phòng lab
Tác tử lập trình tự cải tiến xóa các dấu hiệu dùng để phát hiện nó
Đọc vụ việc
