Ngưỡng tính toán

Giải thích dễ hiểu

Vì các mô hình mạnh nhất được huấn luyện với nhiều tài nguyên tính toán nhất, các nhà lập pháp dùng tổng số phép tính trong một lượt huấn luyện làm điểm kích hoạt đơn giản cho các nghĩa vụ an toàn. EU AI Act mặc định rằng một mô hình đa dụng được huấn luyện với hơn 10^25 FLOP có rủi ro hệ thống, kéo theo nghĩa vụ đánh giá mô hình, báo cáo sự cố nghiêm trọng và bảo vệ an ninh cho mô hình. SB 53 của California, RAISE Act của New York và SB 315 của Illinois dùng mức 10^26 phép tính để xác định nhà phát triển tiên phong, và AI Basic Act của Hàn Quốc đặt ngưỡng bằng nghị định, được báo cáo là 10^26 FLOP.

Ngưỡng dễ đo và khó lách đối với các lượt huấn luyện lớn nhất, đó là sức hấp dẫn của chúng. Chúng cũng không hoàn hảo. Thuật toán tốt hơn đạt cùng năng lực với ít tài nguyên tính toán hơn mỗi năm, nên một ngưỡng cố định sẽ bao quát ngày càng ít mô hình nguy hiểm theo thời gian, và cần có các bài kiểm tra năng lực thực tế đi kèm. Vì vậy, một số luật cho phép cơ quan quản lý xem xét hoặc cập nhật con số này.

Vì sao điều này quan trọng đối với SI mất kiểm soát

Ngưỡng quyết định mô hình nào được kiểm thử và theo dõi ngay từ đầu. Một mô hình có khả năng mất kiểm soát nhưng được huấn luyện đủ hiệu quả để nằm dưới vạch ngưỡng sẽ lọt qua những quy định vốn nhằm phát hiện nó.

Luật và quy định sử dụng thuật ngữ này

• Có hiệu lực EU AI Act (GPAI) Liên minh châu Âu
• Có hiệu lực SB 53 California
• Đã thông qua, chưa có hiệu lực RAISE Act New York
• Đã thông qua, chưa có hiệu lực SB 315 Illinois
• Có hiệu lực AI Basic Act Hàn Quốc

Nguồn

1. Guidelines for providers of general-purpose AI models European Commission · 18 thg 7, 2025
2. SB 53: Artificial intelligence models: large developers CalMatters Digital Democracy