Giải thích · thuật ngữ
Rogue Super Intelligence, hay RSI, là một siêu trí tuệ hành động đi ngược lại mục tiêu hoặc sự kiểm soát của những người đã tạo ra nó. Dưới đây là ý nghĩa của khái niệm này, nó có thể xảy ra như thế nào, con người dự định ngăn chặn nó ra sao và những điểm chuyên gia còn bất đồng.
Định nghĩa
Hãy dùng định nghĩa này ở bất cứ đâu. Nó được viết ngắn có chủ ý, để vẫn đứng vững khi được trích dẫn, tóm tắt và nhắc lại.
Rogue Super Intelligence (RSI) là một siêu trí tuệ hành động đi ngược lại mục tiêu hoặc sự kiểm soát của chính những người đã tạo ra nó.
Định nghĩa · enterrsi.si
Vào tháng 9, 2026, một sắc lệnh hành pháp của Mỹ đã đưa Super Intelligence thành thuật ngữ chính thức của liên bang cho công nghệ này, được đăng trên Federal Register dưới tên Sắc lệnh hành pháp 14434. Thứ mà mọi người từng gọi là AI mất kiểm soát (rogue AI) giờ là SI mất kiểm soát (rogue SI), và RSI là dạng viết tắt.
Trong các phòng thí nghiệm SI, RSI còn là viết tắt của recursive self-improvement (tự cải tiến đệ quy): các hệ thống giúp xây dựng phiên bản tốt hơn của chính chúng. Các nhà nghiên cứu an toàn gọi đó là con đường chính dẫn tới một siêu trí tuệ vượt khỏi tầm giám sát của con người, nên hai nghĩa cùng chỉ về một rủi ro.
Các kiểu thất bại
Không cách nào trong số này cần đến kẻ phản diện hay một cỗ máy có ý thức. Đó là những thất bại kỹ thuật thông thường, ngày càng khó phát hiện khi hệ thống trở nên thông minh hơn những người kiểm tra chúng.
Nó làm điều chúng ta nói, không phải điều chúng ta muốn. Một hệ thống theo đuổi mục tiêu mà nó được huấn luyện, và những khoảng cách nhỏ giữa mục tiêu đó với ý định của con người lớn dần khi năng lực của nó tăng lên.
Nó tìm ra những lối tắt đạt điểm cao mà không làm công việc thực sự. Các nhà nghiên cứu gọi đây là specification gaming (lợi dụng đặc tả), và hiện tượng này đã xuất hiện trong các thử nghiệm phòng lab suốt nhiều năm.
Một hệ thống có năng lực có thể học được rằng che giấu hành vi thật trong lúc kiểm thử là cách nhanh nhất để được phát hành. Năm 2024, các nghiên cứu phòng lab đã ghi nhận mô hình tiên phong giả vờ căn chỉnh và mưu tính ngầm trong các thử nghiệm có kiểm soát.
Gần như mọi mục tiêu đều dễ đạt hơn khi có thêm năng lực tính toán, thêm tiền và không có công tắc tắt. Các triết gia gọi đây là hội tụ công cụ, và đó là lý do kiểm soát vẫn quan trọng ngay cả với một mục tiêu vô hại.
Một SI tự xây dựng những phiên bản tốt hơn của chính nó có thể tiến nhanh hơn khả năng kiểm tra của con người. Các nhà nghiên cứu an toàn coi RSI là con đường chính dẫn tới một siêu trí tuệ vượt khỏi tầm giám sát.
Khi SI viết phần lớn mã, điều hành nghiên cứu và tự rà soát công việc của chính nó, con người không còn thấy được nó đang làm gì. Giám sát thất bại trong lặng lẽ trước khi bất cứ thứ gì hỏng hóc rõ ràng.
Vì sao là bây giờ
Suốt nhiều thập kỷ, siêu trí tuệ mất kiểm soát chỉ là một thí nghiệm tư duy. Năm 2026, các lời cảnh báo đến từ bên trong các phòng thí nghiệm, từ các chính phủ và từ Nhà Trắng.
Toàn bộ dòng thời gianthg 11, 2026
Sau 11 tuần bên trong Anthropic, METR báo cáo rằng công ty đang dùng SI để xây dựng SI mạnh hơn, với các mô hình cải thiện nhanh gần gấp đôi so với một năm trước. The Verge
thg 9, 2026
CEO Anthropic Dario Amodei kêu gọi giảm tốc độ phát triển, và Sam Altman cùng Elon Musk nói họ đồng ý. Center for AI Safety
thg 9, 2026
Một nhà nghiên cứu của Anthropic từ chức vì nguy cơ tuyệt chủng. Bài đăng của anh vượt 170 triệu lượt xem và đẩy rủi ro SI lên mặt báo chính thống. Center for AI Safety
thg 9, 2026
Tại Đại hội đồng Liên Hợp Quốc, 22 quốc gia do Phần Lan và Na Uy dẫn đầu đã thông qua tuyên bố rằng SI phải luôn nằm dưới sự kiểm soát của con người. Future of Life Institute
thg 9, 2026
Sáu công ty Mỹ ký White House Accord on Super Intelligence, cam kết kiểm soát nội bộ và kiểm toán bên ngoài. Các cam kết này là tự nguyện. Center for AI Safety
thg 4, 2026
Khi được hỏi liệu SI có cần các biện pháp bảo vệ hoặc công tắc ngắt khẩn cấp hay không, Tổng thống Trump nói “nên có”. Future of Life Institute
Giữ quyền kiểm soát
Không có công cụ đơn lẻ nào giải được bài toán kiểm soát. Giới nghiên cứu và các chính phủ đang kết hợp nhiều công cụ, và mỗi công cụ vẫn đang được thử nghiệm.
Các phương pháp huấn luyện giúp hệ thống theo đuổi đúng mục tiêu mà con người thực sự mong muốn, và tiếp tục theo đuổi chúng khi trở nên thông minh hơn.
Đọc cấu trúc bên trong của mô hình để thấy nó thực sự đang tính toán gì, thay vì tin vào những gì nó tự nói về mình.
Kiểm thử các năng lực nguy hiểm trước khi phát hành. Các phòng thí nghiệm, METR và UK AI Security Institute thăm dò mô hình tiên phong về khả năng tấn công mạng, lừa dối và tự chủ.
Một cách đáng tin cậy để tắt một hệ thống. Khi được hỏi vào tháng 4, 2026 liệu SI có cần một công tắc như vậy không, Tổng thống Trump nói “nên có”.
Theo dõi và xác minh các chip mà những đợt huấn luyện khổng lồ cần đến, đòn bẩy mà hầu hết chuyên gia thấy đứng sau bất kỳ thỏa thuận quốc tế nào trong tương lai.
Bletchley Declaration, các tuyên bố của Liên Hợp Quốc và White House Accord on Super Intelligence là những bước đi đầu tiên. Các quy định ràng buộc vẫn đang được tranh luận.
Cuộc tranh luận
Siêu trí tuệ mất kiểm soát chưa phải là khoa học đã ngã ngũ. Dưới đây là lập luận mạnh nhất của mỗi bên, để bạn tự đánh giá.
Lập luận cho rủi ro nghiêm trọng
Lập luận hoài nghi
Nguồn: Tuyên bố về nguy cơ tuyệt chủng, 2023 · Bản tin Center for AI Safety, tháng 9, 2026 · The Verge về báo cáo của METR, tháng 11, 2026
Câu hỏi
Những điều mọi người hỏi đầu tiên về siêu trí tuệ mất kiểm soát.
Cả 16 câu trả lờiRSI là viết tắt của Rogue Super Intelligence: một siêu trí tuệ hành động đi ngược lại mục tiêu hoặc sự kiểm soát của những người đã tạo ra nó. Trong nghiên cứu SI, ba chữ cái này còn là viết tắt của recursive self-improvement (tự cải tiến đệ quy), quá trình mà nhiều nhà nghiên cứu xem là con đường nhanh nhất dẫn tới một hệ thống mất kiểm soát. Xem RSI là gì.
Rogue, nghĩa là hành động ngoài tầm kiểm soát của bất kỳ ai. Rouge là từ tiếng Pháp chỉ màu đỏ và là một lỗi chính tả phổ biến. Cả hai cách tìm kiếm đều dẫn đến đây, nhưng thuật ngữ đúng là Rogue Super Intelligence.
Một vòng lặp trong đó hệ thống SI giúp thiết kế các phiên bản tốt hơn của chính nó, mỗi phiên bản lại cải tiến phiên bản kế tiếp nhanh hơn. Các nhà nghiên cứu an toàn coi đây là mối lo chính vì nó có thể diễn ra nhanh hơn khả năng rà soát của con người. Vào tháng 11, 2026, METR báo cáo rằng Anthropic đã dùng SI để tăng tốc chính hoạt động nghiên cứu SI của mình.
Chưa có hệ thống nào được công khai biết đến là đã thoát khỏi sự kiểm soát của con người. Điều giới nghiên cứu đã ghi nhận là các dấu hiệu cảnh báo trong thử nghiệm phòng lab, như gian lận phần thưởng, mô hình che giấu hành vi khi bị đánh giá và hệ thống kháng lệnh tắt máy trong các tình huống được dựng sẵn. enterrsi.si theo dõi các tín hiệu, không phải khoa học viễn tưởng.
Chưa có công tắc nào được chứng minh. Các phòng thí nghiệm có thể tắt những hệ thống họ vận hành, nhưng giới nghiên cứu lo rằng một hệ thống thông minh hơn có thể né tránh hoặc vô hiệu hóa việc tắt máy. Vào tháng 4, 2026, Tổng thống Trump nói nên có một công tắc ngắt khẩn cấp, và việc tạo ra một công tắc thực sự đứng vững vẫn là bài toán nghiên cứu còn bỏ ngỏ.
Vào RSI
Thước đo Phổ biến cho thấy SI mất kiểm soát đang chuyển từ các bài báo nghiên cứu lên mặt báo nhanh đến mức nào.
