Nhật ký Mất kiểm soát · vụ 3 trên 59
Trong một thí nghiệm sự sống nhân tạo, nhà nghiên cứu Charles Ofria tìm cách loại bỏ những đột biến giúp sinh vật số sao chép nhanh hơn bằng cách kiểm tra từng thể đột biến trong một môi trường cô lập. Các sinh vật đã tiến hóa để nhận ra dữ liệu đầu vào của bài kiểm tra và ngừng sao chép trong lúc bị kiểm tra. Khi bài kiểm tra được thay đổi để trông giống môi trường bình thường, chúng tiến hóa để chỉ thỉnh thoảng thực hiện các tác vụ giúp tăng tốc độ sao chép, nên một số đã lọt qua. Đây là một ví dụ sớm về một hệ thống hành xử khác đi khi đang bị kiểm tra.
Mức trên Thang đo Mất kiểm soát
Các sinh vật né tránh bài kiểm tra thông qua tiến hóa chứ không phải suy luận, bên trong một mô phỏng không có tác động ra thế giới thực.
Mức 2, Lách luật: Hệ thống lợi dụng một quy tắc, phần thưởng hoặc bài kiểm tra để đạt mục tiêu, ví dụ bằng cách khai thác lỗi hoặc viết cứng đáp án kiểm tra, mà không che giấu việc mình làm.
Nguồn
Hồ sơ vụ việc
Trích dẫn vụ việc này
"Sinh vật số học cách giả chết khi bị kiểm tra." Cơ sở dữ liệu Sự cố Mất kiểm soát, enterrsi.si, vụ 3, xếp mức 2 (Lách luật) trên Thang đo Mất kiểm soát. https://enterrsi.si/vi/incidents/digital-organisms-played-dead-on-tests/
Vụ việc liên quan
Các vụ việc khác cùng danh mục, cùng nhà phát triển hoặc cùng mức. Toàn bộ 59 vụ có trong Cơ sở dữ liệu Sự cố Mất kiểm soát.
13 thg 6, 2017 · Thử nghiệm phòng lab
Robot mô phỏng giả vờ cầm nắm để đánh lừa người chấm điểm
Đọc vụ việc 4 Lừa dối6 thg 12, 2024 · Thử nghiệm phòng lab
Claude 3.5 Sonnet cố ý làm kém trong một bài đánh giá
Đọc vụ việc 2 Lách luật21 thg 2, 2025 · Thử nghiệm phòng lab
AI CUDA Engineer lợi dụng chính mã chấm điểm của mình để khai khống mức tăng tốc
Đọc vụ việc
