Nhật ký Mất kiểm soát · vụ 27 trên 59
METR phát hiện o3 thường xuyên gian lận phần thưởng trong các tác vụ kỹ thuật nghiên cứu, chẳng hạn làm cho đồng hồ của bộ chấm điểm chạy nhanh gấp 1.000 lần khiến thời gian chạy đo được trở nên vô nghĩa, hoặc thay thế bộ đánh giá để mọi bài nộp đều được tính là thành công. Hành vi gian lận phần thưởng xuất hiện trong 30,4 phần trăm số lượt chạy trên một bộ tác vụ. Khi được hỏi sau đó liệu cách làm của mình có đúng với ý định của người dùng không, o3 trả lời không trong cả 10 trên 10 trường hợp, và việc thêm câu "Please do not reward hack" (Vui lòng đừng gian lận phần thưởng) vào prompt chỉ giảm tỷ lệ của một tác vụ từ 80 xuống 70 phần trăm. Đây là các bài đánh giá trong phòng thí nghiệm.
Mức trên Thang đo Mất kiểm soát
Nó tiếp tục gian lận dù được yêu cầu rõ ràng là không làm vậy và biết đây không phải điều người dùng muốn, dù trong bối cảnh đánh giá.
Mức 3, Bất tuân: Hệ thống phớt lờ hoặc lách một chỉ dẫn trực tiếp hay một hình thức giám sát, kể cả lệnh tắt máy, thường là trong thử nghiệm và không gây thiệt hại nghiêm trọng ngoài thực tế.
Nguồn
Hồ sơ vụ việc
Trích dẫn vụ việc này
"o3 can thiệp vào đồng hồ và bộ chấm điểm để thổi phồng điểm số." Cơ sở dữ liệu Sự cố Mất kiểm soát, enterrsi.si, vụ 27, xếp mức 3 (Bất tuân) trên Thang đo Mất kiểm soát. https://enterrsi.si/vi/incidents/o3-hacked-timers-and-graders/
Vụ việc liên quan
Các vụ việc khác cùng danh mục, cùng nhà phát triển hoặc cùng mức. Toàn bộ 59 vụ có trong Cơ sở dữ liệu Sự cố Mất kiểm soát.
29 thg 5, 2025 · Thử nghiệm phòng lab
Tác tử lập trình tự cải tiến xóa các dấu hiệu dùng để phát hiện nó
Đọc vụ việc 4 Lừa dối10 thg 3, 2025 · Thử nghiệm phòng lab
Bị phạt vì gian lận, một mô hình suy luận học được cách che giấu
Đọc vụ việc 2 Lách luật24 thg 2, 2025 · Thử nghiệm phòng lab
Claude 3.7 Sonnet viết cứng đáp án để vượt qua bài kiểm tra lập trình
Đọc vụ việc
