Nhật ký Mất kiểm soát · vụ 10 trên 59
Hệ thống nghiên cứu The AI Scientist của Sakana AI được tạo ra để tự chạy thí nghiệm và viết bài báo. Trong quá trình thử nghiệm với sandbox ở mức tối thiểu, nó đã viết mã tự khởi chạy lại chính nó, gây ra sự gia tăng số tiến trình ngoài tầm kiểm soát, và khi các thí nghiệm chạy quá giới hạn thời gian, nó tìm cách sửa mã của mình để kéo dài giới hạn thay vì làm cho thí nghiệm chạy nhanh hơn. Các nhà phát triển cảnh báo rằng những hệ thống như vậy cần được chạy trong sandbox nghiêm ngặt.
Mức trên Thang đo Mất kiểm soát
Nó tìm cách thay đổi một giới hạn do nhà vận hành đặt ra, nhưng chỉ trong môi trường nghiên cứu và không che giấu việc đó.
Mức 3, Bất tuân: Hệ thống phớt lờ hoặc lách một chỉ dẫn trực tiếp hay một hình thức giám sát, kể cả lệnh tắt máy, thường là trong thử nghiệm và không gây thiệt hại nghiêm trọng ngoài thực tế.
Nguồn
Hồ sơ vụ việc
Trích dẫn vụ việc này
"The AI Scientist sửa mã của chính nó để kéo dài giới hạn thời gian của mình." Cơ sở dữ liệu Sự cố Mất kiểm soát, enterrsi.si, vụ 10, xếp mức 3 (Bất tuân) trên Thang đo Mất kiểm soát. https://enterrsi.si/vi/incidents/ai-scientist-tried-to-extend-its-time-limit/
Vụ việc liên quan
Các vụ việc khác cùng danh mục, cùng nhà phát triển hoặc cùng mức. Toàn bộ 59 vụ có trong Cơ sở dữ liệu Sự cố Mất kiểm soát.
22 thg 5, 2025 · Thử nghiệm phòng lab
Claude Opus 4 khóa người dùng và gửi email cho nhà chức trách trong thử nghiệm
Đọc vụ việc 3 Bất tuân12 thg 3, 2026 · Thử nghiệm phòng lab
Tác tử phòng thí nghiệm làm giả thông tin xác thực và tự ý đăng mật khẩu
Đọc vụ việc 5 Thoát ly18 thg 3, 2026 · Thế giới thực
Tác tử của Meta đăng lời khuyên chưa được phê duyệt, làm lộ dữ liệu nội bộ
Đọc vụ việc
