Bách khoa RSI · Thuật ngữ
Luận đề trực giao
Luận đề trực giao cho rằng trí tuệ và mục tiêu độc lập với nhau, nên một hệ thống có thể cực kỳ có năng lực mà vẫn theo đuổi những mục tiêu con người thấy vô nghĩa hoặc có hại.
- Danh mục
- Thuật ngữ
- Còn gọi là
- n/a
- Vụ việc trong Nhật ký Mất kiểm soát
- 0
- Luật sử dụng thuật ngữ này
- 0
Giải thích dễ hiểu
Nick Bostrom phát biểu luận đề này vào năm 2012: về nguyên tắc, hầu như bất kỳ mức độ trí tuệ nào cũng có thể kết hợp với hầu như bất kỳ mục tiêu cuối cùng nào. Một hệ thống siêu trí tuệ sẽ không tự động tiếp nhận các giá trị của con người chỉ vì nó thông minh, cũng như một engine cờ vua mạnh không muốn gì khác ngoài việc thắng cờ. Trí tuệ mô tả mức độ một tác tử đạt được mục tiêu của nó tốt đến đâu, chứ không phải nó có những mục tiêu nào.
Luận đề này trả lời một niềm hy vọng phổ biến, rằng một cỗ máy đủ khôn ngoan sẽ tự nhiên trở nên tử tế. Nếu luận đề đúng, các giá trị phải được đưa vào một cách có chủ đích, và những sai sót trong quá trình đó sẽ không tự sửa khi hệ thống thông minh hơn. Giới phê bình chỉ ra rằng các hệ thống được huấn luyện trên văn bản của con người hấp thụ rất nhiều giá trị của con người trong quá trình đó, điều có thể khiến các mục tiêu hợp lý dễ xảy ra hơn trên thực tế. Dù vậy, hầu hết các nhà nghiên cứu căn chỉnh coi tính trực giao là lý do để kiểm chứng mục tiêu của một hệ thống thay vì mặc định chúng.
Vì sao điều này quan trọng đối với SI mất kiểm soát
Nếu năng lực không mang theo giá trị tốt, thì mỗi bước nhảy về năng lực cũng là một bước nhảy về những gì một hệ thống lệch căn chỉnh có thể làm. SI mất kiểm soát chính là sự kết hợp mà luận đề này cảnh báo.
Bách khoa RSI
Đọc tiếp
207 mục về các thuật ngữ, phòng thí nghiệm, mô hình, luật và sự kiện liên quan đến SI mất kiểm soát, cùng mọi vụ việc trong Cơ sở dữ liệu Sự cố Mất kiểm soát.
Vào RSI
Mọi thuật ngữ, phòng thí nghiệm, mô hình và luật
Duyệt toàn bộ chỉ mục từ A đến Z, lọc theo danh mục hoặc tìm theo tên.