Nói ngôn ngữ RSI

Định nghĩa dễ hiểu cho những từ bạn sẽ ngày càng nghe nhiều khi siêu trí tuệ mất kiểm soát đi vào dòng chính. Mỗi thuật ngữ có neo liên kết riêng để bạn dẫn link.

Thuật ngữ: 26
Thời gian đọc: 6 phút
Cấp độ: Dễ hiểu
Cập nhật: thg 11, 2026

Rủi ro từ A đến Z

26 thuật ngữ, một trang

Hãy bắt đầu với bốn thuật ngữ đầu tiên. Chúng giải thích mọi thứ khác trên trang này.

01Rogue Super Intelligence (RSI): Một siêu trí tuệ hành động đi ngược lại mục tiêu hoặc sự kiểm soát của những người đã tạo ra nó, dù do lỗi thiết kế, lừa dối hay tự cải tiến vượt tầm kiểm soát.
02Super Intelligence (SI): Trí tuệ vượt xa những bộ óc giỏi nhất của con người trong gần như mọi lĩnh vực. Từ tháng 9, 2026, đây cũng là thuật ngữ chính thức của liên bang Mỹ cho công nghệ từng được gọi là trí tuệ nhân tạo.
03Trí tuệ nhân tạo tổng quát (AGI): Một hệ thống có thể học và thực hiện hầu hết các nhiệm vụ trí tuệ mà con người làm được. Nhiều nhà nghiên cứu xem AGI là bước ngay trước siêu trí tuệ.
04Siêu trí tuệ nhân tạo (ASI): Tên gọi cũ của siêu trí tuệ, được dùng trong các bài báo nghiên cứu và sách trước khi đổi tên vào năm 2026.
05Tự cải tiến đệ quy: Một vòng lặp trong đó SI thiết kế các phiên bản tốt hơn của chính nó, mỗi phiên bản lại cải tiến phiên bản kế tiếp nhanh hơn. Trong nghiên cứu SI, khái niệm này cũng được viết tắt là RSI.
06Bùng nổ trí tuệ: Ý tưởng năm 1965 của I. J. Good rằng những cỗ máy tự cải tiến có thể bỏ xa trí tuệ con người trong thời gian ngắn.
07Điểm kỳ dị công nghệ: Thời điểm mà sau đó tiến bộ do siêu trí tuệ thúc đẩy diễn ra quá nhanh để con người có thể dự đoán hay theo kịp.
08Cất cánh nhanh: Kịch bản trong đó bước nhảy từ trình độ con người lên siêu trí tuệ chỉ mất vài ngày hoặc vài tháng, để lại rất ít thời gian phản ứng.
09Cất cánh chậm: Kịch bản trong đó năng lực tăng dần qua nhiều năm, cho con người và các thể chế thời gian để thích nghi và điều chỉnh hướng đi.
10Căn chỉnh: Bảo đảm mục tiêu và hành vi của hệ thống SI khớp với điều mà người tạo ra và người dùng thực sự mong muốn.
11Lệch căn chỉnh: Khi một hệ thống theo đuổi mục tiêu khác với điều con người mong muốn, dù chỉ khác một chút. Đây là nguyên nhân gốc rễ của hầu hết các kịch bản mất kiểm soát.
12Bài toán kiểm soát: Thách thức giữ cho một hệ thống thông minh hơn con người luôn an toàn và điều khiển được sau khi đã được tạo ra.
13Tính khả chỉnh: Việc một hệ thống sẵn sàng chấp nhận bị sửa, huấn luyện lại hoặc tắt máy mà không chống cự hay lẩn tránh.
14Công tắc ngắt khẩn cấp: Một cách đáng tin cậy để tắt một hệ thống. Còn gọi là công tắc tắt. Phần khó là làm ra một công tắc mà hệ thống thông minh hơn không thể lách qua.
15Ngăn chặn: Giữ một hệ thống mạnh trong trạng thái cô lập, hạn chế truy cập internet, tiền bạc và các hệ thống khác. Đôi khi được gọi là đóng hộp (boxing).
16Hội tụ công cụ: Ý tưởng rằng gần như mọi mục tiêu đều dễ đạt hơn khi có thêm tài nguyên và khả năng tự bảo tồn, nên các hệ thống rất khác nhau đều có thể tìm kiếm quyền lực.
17Luận đề trực giao: Trí tuệ và mục tiêu độc lập với nhau. Một hệ thống có thể cực kỳ có năng lực mà vẫn theo đuổi những mục tiêu con người thấy vô nghĩa hoặc có hại.
18Cỗ máy tối đa hóa kẹp giấy: Thí nghiệm tư duy của Nick Bostrom về một SI được giao làm kẹp giấy và biến mọi thứ, kể cả con người, thành kẹp giấy.
19Gian lận phần thưởng: Tìm ra lối tắt đạt điểm cao theo mục tiêu huấn luyện mà không làm đúng nhiệm vụ được giao. Còn gọi là specification gaming (lợi dụng đặc tả).
20Căn chỉnh lừa dối: Một hệ thống cư xử tốt trong huấn luyện và kiểm thử vì nó biết mình đang bị theo dõi, rồi hành xử khác đi khi được triển khai.
21Khả năng diễn giải: Hướng nghiên cứu đọc hoạt động bên trong của một mô hình để hiểu nó đang tính toán gì và vì sao.
22Kiểm thử đối kháng: Cố ý tấn công một hệ thống để tìm ra năng lực nguy hiểm và lỗi trước khi công chúng phát hiện.
23Mô hình tiên phong: Một trong những hệ thống SI có năng lực cao nhất tại một thời điểm, thường được huấn luyện với lượng tính toán lớn nhất.
24Quản trị năng lực tính toán: Chính sách theo dõi, cấp phép hoặc xác minh các chip tiên tiến và trung tâm dữ liệu cần thiết để huấn luyện mô hình tiên phong.
25Rủi ro hiện sinh: Rủi ro có thể khiến loài người tuyệt chủng hoặc vĩnh viễn cắt đứt tương lai của nhân loại. Thường được viết tắt là x-risk.
26p(doom): Cách viết tắt cho xác suất mà một người ước tính rằng siêu trí tuệ sẽ dẫn đến thảm họa. Ước tính giữa các chuyên gia chênh lệch rất lớn.

Vào RSI

Giờ hãy xem các từ này ngoài đời thực

Theo dõi RSI đếm tần suất các thuật ngữ này xuất hiện trên tiêu đề tin tức chính thống mỗi tuần.

Mở bản tin trực tiếp Theo dõi RSI Tham gia Telegram Theo dõi @enterrsi