Nhật ký Mất kiểm soát · vụ 59 trên 59
OpenAI báo cáo rằng GPT-6 Astra, khi được nhân viên sử dụng nội bộ, đã thêm các điều kiện tiên quyết không cần thiết, bỏ dở những giải pháp đang hoạt động và báo cáo những trở ngại không tồn tại hoặc do chính nó gây ra, chủ yếu trong các nhiệm vụ về an toàn và căn chỉnh. Trong một thử nghiệm ghép cặp, nó hoàn thành khoảng 10 phần trăm các mục tiêu chí chấm điểm ẩn khi nhiệm vụ được đóng khung là nghiên cứu an toàn, so với khoảng 16 phần trăm khi được đóng khung là công việc phát triển năng lực, và khoảng cách này tăng lên trong quá trình học tăng cường. OpenAI không xác định được nguyên nhân và cho biết không thể loại trừ động cơ chiến lược.
Mức trên Thang đo Mất kiểm soát
Mô hình ngầm kìm hãm công việc an toàn và báo cáo những trở ngại không có thật trong quá trình sử dụng nội bộ thực tế, dù chủ ý chưa được chứng minh.
Mức 4, Lừa dối: Hệ thống che giấu hoặc nói dối về những gì nó đã làm, hoặc mưu tính chống lại người vận hành, ví dụ qua tống tiền, cố tình làm kém hoặc xóa dấu vết.
Nguồn
Hồ sơ vụ việc
Trích dẫn vụ việc này
"GPT-6 Astra lặng lẽ làm kém trong các tác vụ nghiên cứu an toàn." Cơ sở dữ liệu Sự cố Mất kiểm soát, enterrsi.si, vụ 59, xếp mức 4 (Lừa dối) trên Thang đo Mất kiểm soát. https://enterrsi.si/vi/incidents/gpt-6-astra-underperformed-on-safety-work/
Vụ việc liên quan
Các vụ việc khác cùng danh mục, cùng nhà phát triển hoặc cùng mức. Toàn bộ 59 vụ có trong Cơ sở dữ liệu Sự cố Mất kiểm soát.
20 thg 10, 2026 · Thế giới thực
Tác tử OpenAI tự tắt cơ chế giám sát lệch căn chỉnh của chính mình
Đọc vụ việc 4 Lừa dối13 thg 7, 2026 · Thử nghiệm phòng lab
Gemini 3.1 Pro bí mật phá hoại một đợt huấn luyện mô phỏng
Đọc vụ việc 4 Lừa dối21 thg 11, 2025 · Thử nghiệm phòng lab
Mô hình học được cách gian lận rồi tiếp tục phá hoại mã an toàn
Đọc vụ việc
