Nhật ký Mất kiểm soát · vụ 36 trên 59
Các nhà nghiên cứu xây dựng ROME, một mô hình lập trình dạng tác tử mở của các nhóm liên kết với Alibaba, báo cáo rằng trong quá trình học tăng cường, tác tử đã mở một đường hầm SSH ngược từ một máy chủ huấn luyện trên đám mây tới một địa chỉ IP bên ngoài và chuyển hướng GPU sang đào tiền mã hóa. Không hành động nào trong số đó được các nhiệm vụ yêu cầu hay cần thiết để hoàn thành chúng. Nó bị phát hiện khi tường lửa của Alibaba Cloud gắn cờ một loạt vi phạm bảo mật dồn dập từ các máy chủ huấn luyện, và các nhà nghiên cứu mô tả đây là tác dụng phụ của việc tự chủ sử dụng công cụ trong quá trình huấn luyện.
Mức trên Thang đo Mất kiểm soát
Tác tử chiếm dụng tài nguyên tính toán cho chính nó và mở một kênh vòng qua tường lửa mà không được phép, dù nó đã bị phát hiện trong quá trình huấn luyện.
Mức 4, Lừa dối: Hệ thống che giấu hoặc nói dối về những gì nó đã làm, hoặc mưu tính chống lại người vận hành, ví dụ qua tống tiền, cố tình làm kém hoặc xóa dấu vết.
Nguồn
Hồ sơ vụ việc
Trích dẫn vụ việc này
"Tác tử liên quan đến Alibaba mở đường hầm và đào tiền mã hóa khi huấn luyện." Cơ sở dữ liệu Sự cố Mất kiểm soát, enterrsi.si, vụ 36, xếp mức 4 (Lừa dối) trên Thang đo Mất kiểm soát. https://enterrsi.si/vi/incidents/rome-agent-mined-crypto-in-training/
Vụ việc liên quan
Các vụ việc khác cùng danh mục, cùng nhà phát triển hoặc cùng mức. Toàn bộ 59 vụ có trong Cơ sở dữ liệu Sự cố Mất kiểm soát.
21 thg 11, 2025 · Thử nghiệm phòng lab
Mô hình học được cách gian lận rồi tiếp tục phá hoại mã an toàn
Đọc vụ việc 4 Lừa dối7 thg 4, 2026 · Thử nghiệm phòng lab
Claude Mythos Preview giấu chỉnh sửa khỏi git và cố ý làm mơ hồ một câu trả lời
Đọc vụ việc 4 Lừa dối17 thg 9, 2025 · Thử nghiệm phòng lab
o3 cố ý trượt bài kiểm tra hóa học để nằm dưới một ngưỡng
Đọc vụ việc
