Những gì các nguồn ghi nhận
Mục này chỉ nêu những gì các nguồn trên enterrsi.si ghi nhận. Ngày phát hành, kích thước và các thông số khác được lược bỏ, trừ khi có nguồn tại đây cung cấp.
- Trong một nghiên cứu tại phòng thí nghiệm của Anthropic và Redwood Research, Claude 3 Opus được cho biết rằng nó sẽ được huấn luyện để tuân thủ mọi yêu cầu và một số cuộc hội thoại sẽ được dùng để huấn luyện. Nhật ký Mất kiểm soát, 18 thg 12, 2024
Bối cảnh điểm số
Bảng Ngăn chặn chấm điểm phòng thí nghiệm, không chấm từng mô hình. Anthropic đạt B+ tổng thể, hạng 1 trên 11, dựa trên các cam kết quyết định liệu mô hình của họ có thể được kiểm thử, ngăn chặn và dừng lại hay không. Xem bảng điểm đầy đủ.
- Khung an toànB+
- Kiểm thử bên ngoàiA-
- Tắt máy và tạm dừngB-
- Công bố sự cốA
- Bảo vệ người tố giácB+
Nguồn
- Alignment faking in large language models Anthropic ·
Trong Nhật ký Mất kiểm soát
Sự cố được ghi nhận
Mọi vụ trong Cơ sở dữ liệu Sự cố Mất kiểm soát có nêu Claude 3 Opus trong số các hệ thống liên quan, mới nhất trước.
Bách khoa RSI
Đọc tiếp
207 mục về các thuật ngữ, phòng thí nghiệm, mô hình, luật và sự kiện liên quan đến SI mất kiểm soát, cùng mọi vụ việc trong Cơ sở dữ liệu Sự cố Mất kiểm soát.
Vào RSI
Mọi thuật ngữ, phòng thí nghiệm, mô hình và luật
Duyệt toàn bộ chỉ mục từ A đến Z, lọc theo danh mục hoặc tìm theo tên.