Công bố sự cố

Giải thích dễ hiểu

Khi một mô hình hành xử nguy hiểm trong thử nghiệm hoặc khi sử dụng, phải có người báo cho những ai cần biết. Công bố sự cố trải dài từ các bài blog tự nguyện và các phần trong thẻ hệ thống (system card) đến các nghĩa vụ pháp lý. EU AI Act yêu cầu các nhà cung cấp mô hình đa dụng có rủi ro hệ thống theo dõi và báo cáo các sự cố nghiêm trọng cho AI Office. RAISE Act của New York yêu cầu báo cáo các sự cố an toàn nghiêm trọng cho tiểu bang trong vòng 72 giờ, hoặc 24 giờ nếu có nguy cơ cận kề gây tử vong hoặc thương tích nghiêm trọng, và SB 315 của Illinois đặt ra các thời hạn tương tự.

Việc công bố có một động cơ khó xử: phòng thí nghiệm nào báo cáo nhiều hơn thì trông tệ hơn. Bảng Ngăn chặn cộng điểm cho chính việc công bố, và Cơ sở dữ liệu Sự cố Mất kiểm soát dựa vào nó, vì phần lớn các vụ việc đến từ các phòng thí nghiệm, viện nghiên cứu và nhà nghiên cứu đã chọn công bố. Vào tháng 9, 2026, sắc lệnh hành pháp N-9-26 của California yêu cầu đưa ra khuyến nghị về việc mở rộng báo cáo sự cố sang các sự cố mất kiểm soát.

Vì sao điều này quan trọng đối với SI mất kiểm soát

SI mất kiểm soát sẽ không tự lên tiếng báo hiệu. Các quy định về công bố quyết định liệu những dấu hiệu cảnh báo sớm có đến được với công chúng, cơ quan quản lý và các phòng thí nghiệm khác, hay chỉ nằm lại bên trong một công ty.

Luật và quy định sử dụng thuật ngữ này

• Có hiệu lực EU AI Act (GPAI) Liên minh châu Âu
• Tự nguyện hoặc hướng dẫn GPAI Code of Practice (Safety and Security) Liên minh châu Âu
• Tự nguyện hoặc hướng dẫn CAISSI Hoa Kỳ
• Đề xuất FRONTIER Act Hoa Kỳ
• Có hiệu lực SB 53 California
• Có hiệu lực EO N-9-26 California
• Đã thông qua, chưa có hiệu lực RAISE Act New York
• Đã thông qua, chưa có hiệu lực SB 315 Illinois

Nguồn

1. Guidelines for providers of general-purpose AI models European Commission · 18 thg 7, 2025
2. The General-Purpose AI Code of Practice European Commission · 7 thg 10, 2026