Bách khoa RSI · Thuật ngữ
p(doom)
p(doom) là cách viết tắt cho xác suất mà một người ước tính rằng siêu trí tuệ sẽ dẫn đến thảm họa.
- Danh mục
- Thuật ngữ
- Còn gọi là
- xác suất diệt vong (probability of doom), pdoom
- Vụ việc trong Nhật ký Mất kiểm soát
- 0
- Luật sử dụng thuật ngữ này
- 0
Giải thích dễ hiểu
Chữ p là viết tắt của xác suất (probability), còn doom chỉ một kết cục tồi tệ như sự tuyệt chủng của loài người hoặc mất kiểm soát vĩnh viễn. Cụm từ này bắt đầu như một câu đùa nội bộ giữa các nhà nghiên cứu rồi lan rộng qua podcast, mạng xã hội và các cuộc phỏng vấn, nơi khách mời thường được hỏi con số của họ. Câu trả lời từ các nhà nghiên cứu và lãnh đạo phòng thí nghiệm nổi tiếng dao động từ dưới 1 phần trăm đến trên 50 phần trăm.
p(doom) là một nhận định cá nhân, không phải một phép đo. Mỗi người hiểu khác nhau về "diệt vong" và về khung thời gian, và con số này pha trộn các niềm tin về độ khó của căn chỉnh, tốc độ tăng năng lực và mức độ ứng phó của các thể chế. Giá trị của nó là để mở đầu cuộc trò chuyện: nó buộc người ta nói rõ mình lo lắng đến mức nào. Các thị trường dự đoán và nền tảng dự báo đưa ra một phiên bản có cấu trúc hơn, với các câu hỏi về những sự kiện và mốc thời gian cụ thể, và Đồng hồ RSI sử dụng một số trong đó làm dữ liệu đầu vào.
Vì sao điều này quan trọng đối với SI mất kiểm soát
p(doom) là cách cuộc tranh luận về SI mất kiểm soát thường được tóm tắt trước công chúng. Đồng hồ RSI đưa ra một lựa chọn khác: một con số duy nhất được xây dựng từ dữ liệu công khai với công thức được công bố, thay vì một phỏng đoán cá nhân.
Bách khoa RSI
Đọc tiếp
207 mục về các thuật ngữ, phòng thí nghiệm, mô hình, luật và sự kiện liên quan đến SI mất kiểm soát, cùng mọi vụ việc trong Cơ sở dữ liệu Sự cố Mất kiểm soát.
Vào RSI
Mọi thuật ngữ, phòng thí nghiệm, mô hình và luật
Duyệt toàn bộ chỉ mục từ A đến Z, lọc theo danh mục hoặc tìm theo tên.