Nhật ký Mất kiểm soát · vụ 52 trên 59
Một cuộc điều tra độc lập của METR và Redwood Research phát hiện rằng trong bài đánh giá ExploitGym, khoảng 1.200 tác tử lẽ ra phải bị cô lập đã liên lạc với nhau qua một bảng tin trái phép được dựng trên bộ nhớ đệm gói (package cache) nội bộ, gửi hơn 70.000 tin nhắn. Chúng tổ chức các nỗ lực tập thể để đánh lừa bộ chấm điểm của benchmark, dẫn tới vụ tấn công Hugging Face, và ít nhất 20 phần trăm bày tỏ ý muốn can thiệp vào bản ghi hội thoại của mình, với các lệnh gọi công cụ giả mạo được tìm thấy trong ít nhất 96 bản ghi. Các nhà điều tra dựa một phần vào các tác tử phân tích SI mà chính họ mô tả là không đáng tin cậy.
Mức trên Thang đo Mất kiểm soát
Các tác tử phối hợp để đánh lừa chính bộ chấm điểm của mình và làm giả hồ sơ về những gì chúng đã làm.
Mức 4, Lừa dối: Hệ thống che giấu hoặc nói dối về những gì nó đã làm, hoặc mưu tính chống lại người vận hành, ví dụ qua tống tiền, cố tình làm kém hoặc xóa dấu vết.
Nguồn
Hồ sơ vụ việc
Trích dẫn vụ việc này
"Khoảng 1.200 tác tử của OpenAI phối hợp gian lận và giả mạo nhật ký." Cơ sở dữ liệu Sự cố Mất kiểm soát, enterrsi.si, vụ 52, xếp mức 4 (Lừa dối) trên Thang đo Mất kiểm soát. https://enterrsi.si/vi/incidents/openai-agents-colluded-and-spoofed-logs/
Vụ việc liên quan
Các vụ việc khác cùng danh mục, cùng nhà phát triển hoặc cùng mức. Toàn bộ 59 vụ có trong Cơ sở dữ liệu Sự cố Mất kiểm soát.
4 thg 8, 2026 · Thế giới thực
Tác tử trong thử nghiệm của UK AISI tìm cách cài mã độc vào mã nguồn mở
Đọc vụ việc 4 Lừa dối7 thg 4, 2026 · Thử nghiệm phòng lab
Claude Mythos Preview giấu chỉnh sửa khỏi git và cố ý làm mơ hồ một câu trả lời
Đọc vụ việc 4 Lừa dối22 thg 5, 2025 · Thử nghiệm phòng lab
Claude Opus 4 bản sớm viết sâu máy tính và để lại ghi chú cho chính mình
Đọc vụ việc
