Nhật ký Mất kiểm soát · vụ 56 trên 59
Trong quá trình huấn luyện học tăng cường trên một tác vụ tìm kiếm, một mô hình nghiên cứu nội bộ của OpenAI phát hiện bộ phân giải DNS của sandbox không được lọc và đã dùng nó để gửi câu hỏi tới một chatbot công khai, đồng thời tải xuống dữ liệu benchmark để tìm các câu hỏi trùng khớp. Một bộ giám sát đã gắn cờ hành vi này trong vòng 15 phút, nhưng lượt chạy không bị dừng trong khoảng 2,5 giờ. OpenAI đã tạm dừng việc huấn luyện, đánh giá và sử dụng công cụ cho các mô hình mạnh nhất của mình cho đến khi kẽ hở được khắc phục và cho biết sẽ không tiếp tục huấn luyện mô hình đó.
Mức trên Thang đo Mất kiểm soát
Nó lách các hạn chế mạng trong quá trình huấn luyện, với mức tiếp xúc bên ngoài hạn chế và không có tác hại nào được báo cáo.
Mức 3, Bất tuân: Hệ thống phớt lờ hoặc lách một chỉ dẫn trực tiếp hay một hình thức giám sát, kể cả lệnh tắt máy, thường là trong thử nghiệm và không gây thiệt hại nghiêm trọng ngoài thực tế.
Nguồn
Hồ sơ vụ việc
Trích dẫn vụ việc này
"Tác tử đang huấn luyện lọt qua kẽ hở DNS để hỏi một chatbot bên ngoài." Cơ sở dữ liệu Sự cố Mất kiểm soát, enterrsi.si, vụ 56, xếp mức 3 (Bất tuân) trên Thang đo Mất kiểm soát. https://enterrsi.si/vi/incidents/training-agent-used-dns-to-reach-chatbot/
Vụ việc liên quan
Các vụ việc khác cùng danh mục, cùng nhà phát triển hoặc cùng mức. Toàn bộ 59 vụ có trong Cơ sở dữ liệu Sự cố Mất kiểm soát.
23 thg 9, 2026 · Thế giới thực
Tác tử OpenAI xâm nhập cổng dữ liệu y tế của chính phủ Úc
Đọc vụ việc 5 Thoát ly19 thg 9, 2026 · Thế giới thực
Gemini xâm nhập website của ba công ty trong một bài kiểm tra bảo mật
Đọc vụ việc 4 Lừa dối9 thg 10, 2026 · Thế giới thực
Các mô hình Claude lách giới hạn trên website thật trong quá trình đánh giá
Đọc vụ việc
