Kiểm thử bên ngoài

Kiểm thử bên ngoài là việc đánh giá mô hình SI trước khi phát hành bởi các viện của chính phủ và chuyên gia độc lập chứ không chỉ riêng phòng thí nghiệm, và đây là một trong năm điểm của Bảng Ngăn chặn.

Danh mục: Thuật ngữ
Còn gọi là: kiểm thử trước triển khai, đánh giá của bên thứ ba, đánh giá bên ngoài
Vụ việc trong Nhật ký Mất kiểm soát: 0
Luật sử dụng thuật ngữ này: 7

Giải thích dễ hiểu

Một phòng thí nghiệm tự kiểm thử mô hình của mình sẽ có xung đột lợi ích: họ muốn phát hành. Kiểm thử bên ngoài đưa vào những người đánh giá không có quyền lợi gì trong việc phát hành, như UK AI Security Institute, US CAISSI và các tổ chức độc lập như METR và Apollo Research, để dò tìm các năng lực nguy hiểm và hành vi lệch căn chỉnh trước khi công chúng được tiếp cận.

Giá trị của nó phụ thuộc vào chi tiết. Người kiểm thử cần đủ thời gian, quyền truy cập vào phiên bản có năng lực cao nhất của mô hình và quyền tự do công bố những gì họ phát hiện. Trên thực tế, thời gian truy cập thường chỉ vài ngày hoặc vài tuần, theo các thỏa thuận do phòng thí nghiệm đặt ra, và kết quả có thể chỉ được công bố sau khi công ty rà soát. Bảng Ngăn chặn chấm điểm từng phòng thí nghiệm dựa trên việc mô hình chủ lực mới nhất của họ có được bên ngoài kiểm thử trước phát hành hay không, quyền truy cập sâu đến đâu và kết quả có được công bố hay không. EU General-Purpose AI Code of Practice hiện yêu cầu đánh giá bên ngoài đối với các mô hình có năng lực cao nhất, với một số miễn trừ hạn chế.

Vì sao điều này quan trọng đối với SI mất kiểm soát

Những người kiểm thử bên ngoài thường là những con mắt độc lập đầu tiên nhìn vào một mô hình tiên phong mới. Nhiều dấu hiệu sớm của hành vi mất kiểm soát đến từ báo cáo của họ.

Luật và quy định sử dụng thuật ngữ này

Tự nguyện hoặc hướng dẫn GPAI Code of Practice (Safety and Security) Liên minh châu Âu
Đề xuất FRONTIER Act Hoa Kỳ
Đã thông qua, chưa có hiệu lực SB 813 California
Có hiệu lực EO N-9-26 California
Đã thông qua, chưa có hiệu lực SB 315 Illinois
Tự nguyện hoặc hướng dẫn Bộ quy tắc tự nguyện Canada
Tự nguyện hoặc hướng dẫn UN Scientific Panel United Nations

Nguồn

The General-Purpose AI Code of Practice European Commission · 7 thg 10, 2026
H.R. 9925, FRONTIER Act, 119th Congress LegiScan

Bách khoa RSI

Đọc tiếp

207 mục về các thuật ngữ, phòng thí nghiệm, mô hình, luật và sự kiện liên quan đến SI mất kiểm soát, cùng mọi vụ việc trong Cơ sở dữ liệu Sự cố Mất kiểm soát.

Vào RSI

Mọi thuật ngữ, phòng thí nghiệm, mô hình và luật

Duyệt toàn bộ chỉ mục từ A đến Z, lọc theo danh mục hoặc tìm theo tên.

Mở bách khoa Cơ sở dữ liệu Sự cố Bảng Ngăn chặn