1. Trang chủ
  2. Bách khoa
  3. Khung an toàn tiên phong

Bách khoa RSI · Thuật ngữ

Khung an toàn tiên phong

Khung an toàn tiên phong là kế hoạch đã công bố của một phòng thí nghiệm để phát hiện các năng lực nguy hiểm trong mô hình SI của mình và các biện pháp bảo vệ sẽ áp dụng khi chúng xuất hiện.

Danh mục
Thuật ngữ
Còn gọi là
khung an toàn, Frontier Safety Framework
Vụ việc trong Nhật ký Mất kiểm soát
0
Luật sử dụng thuật ngữ này
13

Giải thích dễ hiểu

Tại hội nghị thượng đỉnh Seoul năm 2024, hầu hết các phòng thí nghiệm hàng đầu đã đồng ý công bố khung an toàn cho các mô hình tiên phong của họ, và đến năm 2026 gần như mọi nhà phát triển lớn đều có một khung như vậy dưới tên gọi này hay tên gọi khác: Responsible Scaling Policy của Anthropic, Preparedness Framework của OpenAI, Frontier Safety Framework của Google DeepMind, Superintelligence Scaling Framework của Meta, Frontier Artificial Intelligence Framework của xAI, Frontier Governance Framework của Microsoft và Frontier Model Safety Framework của Amazon.

Các khung này có chung một cấu trúc. Chúng liệt kê các lĩnh vực rủi ro nghiêm trọng như vũ khí hóa học và sinh học, tấn công mạng, tự nhân bản và tự động hóa nghiên cứu SI, xác định các mức năng lực được coi là nguy hiểm, và cam kết các biện pháp bảo vệ cho từng mức. Chúng khác nhau ở mức độ đo lường được của các ngưỡng, việc cam kết là ràng buộc hay tùy ý, và ai kiểm tra việc tuân thủ. Luật pháp đang bắt đầu yêu cầu các khung này: chẳng hạn, RAISE Act của New York buộc các nhà phát triển tiên phong lớn công bố một khung như vậy và rà soát nó hằng năm.

Vì sao điều này quan trọng đối với SI mất kiểm soát

Các khung này là quy tắc riêng của các phòng thí nghiệm để tránh SI mất kiểm soát. Điểm khung an toàn trên Bảng Ngăn chặn đo mức độ cụ thể và khả năng thực thi của từng khung.

Luật và quy định sử dụng thuật ngữ này

Chính sách của phòng thí nghiệm

Nguồn

  1. Ensuring a National Policy Framework for Artificial Intelligence Federal Register ·
  2. H.R. 9925, FRONTIER Act, 119th Congress LegiScan

Bách khoa RSI

Đọc tiếp

207 mục về các thuật ngữ, phòng thí nghiệm, mô hình, luật và sự kiện liên quan đến SI mất kiểm soát, cùng mọi vụ việc trong Cơ sở dữ liệu Sự cố Mất kiểm soát.

Vào RSI

Mọi thuật ngữ, phòng thí nghiệm, mô hình và luật

Duyệt toàn bộ chỉ mục từ A đến Z, lọc theo danh mục hoặc tìm theo tên.

Mở bách khoa Cơ sở dữ liệu Sự cố Bảng Ngăn chặn