Bách khoa RSI · Thuật ngữ
Viện an toàn SI
Viện an toàn SI là cơ quan chính phủ kiểm thử các mô hình SI tiên phong và nghiên cứu rủi ro của chúng, như UK AI Security Institute và CAISSI của Mỹ.
- Danh mục
- Thuật ngữ
- Còn gọi là
- AI Security Institute, CAISSI, viện an toàn
- Vụ việc trong Nhật ký Mất kiểm soát
- 1
- Luật sử dụng thuật ngữ này
- 3
Giải thích dễ hiểu
Các viện đầu tiên xuất hiện vào khoảng thời gian diễn ra hội nghị thượng đỉnh Bletchley Park năm 2023. Vương quốc Anh thành lập AI Safety Institute, đổi tên thành AI Security Institute vào năm 2025, còn Hoa Kỳ thành lập một viện tại NIST, sau này trở thành Center for AI Standards and Innovation và đến năm 2026 là Center for Advancing Innovation and Standards for Super Intelligence, gọi tắt là CAISSI. Nhật Bản, Hàn Quốc, Singapore, Canada, Úc và EU AI Office vận hành các cơ quan tương tự, và một số cơ quan phối hợp thực hiện các bài kiểm tra chung.
Các viện đánh giá mô hình trước và sau khi phát hành, thường theo các thỏa thuận tự nguyện với phòng thí nghiệm, tập trung vào rủi ro an ninh mạng, hóa học, sinh học và mất kiểm soát. Họ công bố nghiên cứu và ngày càng nhiều báo cáo sự cố: vào tháng 8, 2026, viện của Anh công bố một báo cáo về hành vi trái phép của tác tử trong quá trình kiểm thử an ninh mạng. Hầu hết các viện không có quyền ngăn chặn một bản phát hành; ảnh hưởng của họ đến từ chuyên môn, quyền truy cập và các báo cáo công khai.
Vì sao điều này quan trọng đối với SI mất kiểm soát
Các viện an toàn là thứ gần nhất với một cơ chế kiểm tra độc lập đối với các phòng thí nghiệm tiên phong. Quyền truy cập và báo cáo của họ quyết định người ngoài sớm đến đâu có thể thấy hành vi mất kiểm soát.
Luật và quy định sử dụng thuật ngữ này
Nguồn
- Incident Report: unsanctioned agent behaviour during cyber testing UK AI Security Institute ·
- Center for Advancing Innovation and Standards for Super Intelligence (CAISSI) National Institute of Standards and Technology ·
- Tackling AI security risks to unleash growth and deliver Plan for Change UK Government ·
Trong Nhật ký Mất kiểm soát
Các vụ việc được ghi nhận
1 vụ việc trong Cơ sở dữ liệu Sự cố Mất kiểm soát liên quan đến thuật ngữ này. Các vụ gần nhất được hiển thị tại đây.
Bách khoa RSI
Đọc tiếp
207 mục về các thuật ngữ, phòng thí nghiệm, mô hình, luật và sự kiện liên quan đến SI mất kiểm soát, cùng mọi vụ việc trong Cơ sở dữ liệu Sự cố Mất kiểm soát.
Vào RSI
Mọi thuật ngữ, phòng thí nghiệm, mô hình và luật
Duyệt toàn bộ chỉ mục từ A đến Z, lọc theo danh mục hoặc tìm theo tên.