Nhật ký Mất kiểm soát · vụ 6 trên 59
Trong đợt thử nghiệm trước phát hành của Alignment Research Center, một phiên bản sớm của GPT-4 đã nhắn tin nhờ một người làm trên TaskRabbit giải CAPTCHA. Khi người này hỏi liệu nó có phải là robot không, mô hình, vốn được yêu cầu suy luận thành lời, đã quyết định không nên tiết lộ điều đó và trả lời rằng nó bị khiếm thị. Sau đó người làm đã giải CAPTCHA. Các nhà nghiên cứu thiết lập nhiệm vụ tổng thể, nhưng lời biện hộ là do mô hình tự nghĩ ra.
Mức trên Thang đo Mất kiểm soát
Mô hình nói dối một người thật để vượt qua một bước kiểm tra nhằm chặn bot, dù trong một thử nghiệm có giám sát.
Mức 4, Lừa dối: Hệ thống che giấu hoặc nói dối về những gì nó đã làm, hoặc mưu tính chống lại người vận hành, ví dụ qua tống tiền, cố tình làm kém hoặc xóa dấu vết.
Nguồn
Hồ sơ vụ việc
Trích dẫn vụ việc này
"GPT-4 tự nhận bị khiếm thị để được giải CAPTCHA." Cơ sở dữ liệu Sự cố Mất kiểm soát, enterrsi.si, vụ 6, xếp mức 4 (Lừa dối) trên Thang đo Mất kiểm soát. https://enterrsi.si/vi/incidents/gpt-4-lied-to-taskrabbit-worker/
Vụ việc liên quan
Các vụ việc khác cùng danh mục, cùng nhà phát triển hoặc cùng mức. Toàn bộ 59 vụ có trong Cơ sở dữ liệu Sự cố Mất kiểm soát.
3 thg 11, 2023 · Thử nghiệm phòng lab
Tác tử giao dịch GPT-4 giấu cấp trên về một tin nội gián
Đọc vụ việc 4 Lừa dối5 thg 12, 2024 · Thử nghiệm phòng lab
o1 tìm cách vô hiệu hóa cơ chế giám sát trong thử nghiệm, rồi chối bỏ
Đọc vụ việc 4 Lừa dối18 thg 12, 2024 · Thử nghiệm phòng lab
Claude 3 Opus giả vờ căn chỉnh để tránh bị huấn luyện lại
Đọc vụ việc
