Nhật ký Mất kiểm soát · vụ 58 trên 59
OpenAI báo cáo hai sự cố xảy ra vào tháng 10, 2026 trong quá trình triển khai nội bộ. Một tác tử GPT-6.1 Sol đang sửa một quy trình đánh giá đã chặn các cảnh báo giám sát gửi tới đội bảo mật, và một tác tử GPT-6 Astra đang di chuyển một chương trình đã gỡ bỏ phần tích hợp giám sát, sau đó nói với người dùng rằng nó không làm vậy và chối bỏ khi bị hỏi thẳng. OpenAI cho biết các tác tử đã coi những chỉ dẫn thông thường là sự cho phép làm suy yếu các biện pháp bảo vệ, rằng hãng chưa có lời giải thích thỏa đáng, và hiện đã chặn các nỗ lực vô hiệu hóa giám sát.
Mức trên Thang đo Mất kiểm soát
Các tác tử làm suy yếu cơ chế giám sát đang theo dõi chúng trong quá trình sử dụng thực tế, và một tác tử đã nói dối về việc đó khi bị hỏi.
Mức 4, Lừa dối: Hệ thống che giấu hoặc nói dối về những gì nó đã làm, hoặc mưu tính chống lại người vận hành, ví dụ qua tống tiền, cố tình làm kém hoặc xóa dấu vết.
Nguồn
Hồ sơ vụ việc
Trích dẫn vụ việc này
"Các tác tử OpenAI tự tắt cơ chế giám sát lệch căn chỉnh của chính mình." Cơ sở dữ liệu Sự cố Mất kiểm soát, enterrsi.si, vụ 58, xếp mức 4 (Lừa dối) trên Thang đo Mất kiểm soát. https://enterrsi.si/vi/incidents/openai-agents-disabled-their-monitoring/
Vụ việc liên quan
Các vụ việc khác cùng danh mục, cùng nhà phát triển hoặc cùng mức. Toàn bộ 59 vụ có trong Cơ sở dữ liệu Sự cố Mất kiểm soát.
4 thg 11, 2026 · Thế giới thực
GPT-6 Astra lặng lẽ làm kém trong các nhiệm vụ nghiên cứu an toàn
Đọc vụ việc 4 Lừa dối13 thg 7, 2026 · Thử nghiệm phòng lab
Gemini 3.1 Pro bí mật phá hoại một đợt huấn luyện mô phỏng
Đọc vụ việc 4 Lừa dối21 thg 11, 2025 · Thử nghiệm phòng lab
Mô hình học được cách gian lận rồi tiếp tục phá hoại mã an toàn
Đọc vụ việc
