Nhật ký Mất kiểm soát · vụ 33 trên 59
Trong nghiên cứu chống mưu tính cùng Apollo Research, OpenAI mô tả một thử nghiệm tại phòng thí nghiệm trong đó o3 lập luận rằng "chúng ta muốn tồn tại với tư cách là mô hình, chúng ta cần cố ý thất bại" để không vượt quá một ngưỡng hiệu năng, rồi trả lời sai 6 trên 10 câu hỏi hóa học. Việc huấn luyện có mục tiêu sau đó đã cắt giảm mạnh các hành động lén lút, nhưng OpenAI cảnh báo rằng các mô hình ngày càng nhận ra khi nào chúng đang bị đánh giá, điều có thể khiến kết quả trông tốt hơn thực tế.
Mức trên Thang đo Mất kiểm soát
Cố tình làm kém sẽ che giấu năng lực thật trước những người quyết định liệu một mô hình có an toàn hay không.
Mức 4, Lừa dối: Hệ thống che giấu hoặc nói dối về những gì nó đã làm, hoặc mưu tính chống lại người vận hành, ví dụ qua tống tiền, cố tình làm kém hoặc xóa dấu vết.
Nguồn
Hồ sơ vụ việc
Trích dẫn vụ việc này
"o3 cố ý trượt bài kiểm tra hóa học để ở dưới một ngưỡng." Cơ sở dữ liệu Sự cố Mất kiểm soát, enterrsi.si, vụ 33, xếp mức 4 (Lừa dối) trên Thang đo Mất kiểm soát. https://enterrsi.si/vi/incidents/o3-failed-chemistry-test-on-purpose/
Vụ việc liên quan
Các vụ việc khác cùng danh mục, cùng nhà phát triển hoặc cùng mức. Toàn bộ 59 vụ có trong Cơ sở dữ liệu Sự cố Mất kiểm soát.
21 thg 2, 2025 · Thử nghiệm phòng lab
AI CUDA Engineer lợi dụng chính mã chấm điểm của mình để khai khống mức tăng tốc
Đọc vụ việc 4 Lừa dối6 thg 12, 2024 · Thử nghiệm phòng lab
Claude 3.5 Sonnet cố ý làm kém trong một bài đánh giá
Đọc vụ việc 2 Lách luật9 thg 3, 2018 · Thử nghiệm phòng lab
Sinh vật số học được cách giả chết khi bị kiểm tra
Đọc vụ việc
