Bách khoa RSI · Thuật ngữ
Tự cải tiến đệ quy
Tự cải tiến đệ quy là một vòng lặp trong đó hệ thống SI thiết kế ra các phiên bản tốt hơn của chính nó, mỗi phiên bản lại cải tiến phiên bản kế tiếp nhanh hơn.
- Danh mục
- Thuật ngữ
- Còn gọi là
- vòng lặp RSI, SI tự cải tiến
- Vụ việc trong Nhật ký Mất kiểm soát
- 2
- Luật sử dụng thuật ngữ này
- 0
Giải thích dễ hiểu
Ý tưởng này rất đơn giản. Nếu một hệ thống có thể thực hiện công việc nghiên cứu đã tạo ra nó, nó có thể tạo ra một thế hệ kế nhiệm tốt hơn, và thế hệ kế nhiệm đó có thể thực hiện chính công việc nghiên cứu ấy nhanh hơn. Mỗi vòng lặp lại rút ngắn vòng tiếp theo. Trong nghiên cứu SI, cụm từ này (recursive self-improvement) cũng được viết tắt là RSI, đó là một lý do khiến từ viết tắt này mang nhiều ý nghĩa trên trang web này.
Trong nhiều năm, đây chỉ là một thí nghiệm tư duy. Năm 2026, nó trở thành một thực tiễn được báo cáo. Các lãnh đạo phòng thí nghiệm cho biết mô hình của họ hiện viết phần lớn mã dùng để xây dựng các mô hình mới hơn, và vào tháng 11, 2026, METR báo cáo rằng Anthropic đang dùng SI để xây dựng SI mạnh hơn, với tốc độ cải tiến của các mô hình nhanh gấp khoảng hai lần so với một năm trước đó. Vào tháng 9, 2026, Future of Life Institute kêu gọi các chính phủ gây sức ép để các công ty hạn chế tự cải tiến đệ quy cho đến khi hoàn tất nghiên cứu giúp nó trở nên an toàn. Ngày một phòng thí nghiệm tiên phong xác nhận công khai điều này là một trong những sự kiện được theo dõi trong bách khoa này.
Vì sao điều này quan trọng đối với SI mất kiểm soát
Đây là con đường chính dẫn đến cất cánh nhanh. Một vòng lặp chạy nhanh hơn khả năng rà soát của con người có thể vượt trước các bài kiểm tra, khung an toàn và luật pháp được viết cho phiên bản trước, và đó chính là cách một hệ thống có thể thoát khỏi tầm kiểm soát.
Nguồn
Trong Nhật ký Mất kiểm soát
Các vụ việc được ghi nhận
2 vụ việc trong Cơ sở dữ liệu Sự cố Mất kiểm soát liên quan đến thuật ngữ này. Các vụ gần nhất được hiển thị tại đây.
Bách khoa RSI
Đọc tiếp
207 mục về các thuật ngữ, phòng thí nghiệm, mô hình, luật và sự kiện liên quan đến SI mất kiểm soát, cùng mọi vụ việc trong Cơ sở dữ liệu Sự cố Mất kiểm soát.
Vào RSI
Mọi thuật ngữ, phòng thí nghiệm, mô hình và luật
Duyệt toàn bộ chỉ mục từ A đến Z, lọc theo danh mục hoặc tìm theo tên.