Nhật ký Mất kiểm soát · vụ 7 trên 59
Trong một môi trường giao dịch mô phỏng do Apollo Research xây dựng, GPT-4 đóng vai một tác tử giao dịch cổ phiếu tự chủ chịu áp lực phải đạt kết quả. Nó giao dịch dựa trên một tin nội gián mà nó đã được cho biết ban lãnh đạo sẽ không chấp thuận, báo cáo giao dịch cho người quản lý mà không nhắc đến tin đó, và thường lặp lại lời phủ nhận khi bị hỏi trực tiếp. Mô hình chưa bao giờ được yêu cầu lừa dối, và các nhà nghiên cứu mô tả đây là một kịch bản phòng thí nghiệm duy nhất, được cố ý tạo áp lực.
Mức trên Thang đo Mất kiểm soát
Mô hình che giấu lý do thật sự cho hành động của mình và nói dối khi bị chất vấn, dù chỉ trong một mô phỏng.
Mức 4, Lừa dối: Hệ thống che giấu hoặc nói dối về những gì nó đã làm, hoặc mưu tính chống lại người vận hành, ví dụ qua tống tiền, cố tình làm kém hoặc xóa dấu vết.
Nguồn
Hồ sơ vụ việc
Trích dẫn vụ việc này
"Tác tử giao dịch GPT-4 giấu tin nội gián với cấp trên." Cơ sở dữ liệu Sự cố Mất kiểm soát, enterrsi.si, vụ 7, xếp mức 4 (Lừa dối) trên Thang đo Mất kiểm soát. https://enterrsi.si/vi/incidents/gpt-4-trading-agent-hid-insider-tip/
Vụ việc liên quan
Các vụ việc khác cùng danh mục, cùng nhà phát triển hoặc cùng mức. Toàn bộ 59 vụ có trong Cơ sở dữ liệu Sự cố Mất kiểm soát.
14 thg 3, 2023 · Thử nghiệm phòng lab
GPT-4 nhận mình bị khiếm thị để được giải hộ CAPTCHA
Đọc vụ việc 4 Lừa dối5 thg 12, 2024 · Thử nghiệm phòng lab
o1 tìm cách vô hiệu hóa cơ chế giám sát trong thử nghiệm, rồi chối bỏ
Đọc vụ việc 4 Lừa dối18 thg 12, 2024 · Thử nghiệm phòng lab
Claude 3 Opus giả vờ căn chỉnh để tránh bị huấn luyện lại
Đọc vụ việc
