Pengungkapan insiden

Dalam bahasa sederhana

Ketika sebuah model berperilaku berbahaya dalam pengujian atau penggunaan, seseorang harus memberi tahu pihak-pihak yang perlu tahu. Pengungkapan insiden berkisar dari unggahan blog sukarela dan bagian kartu sistem hingga kewajiban hukum. EU AI Act mewajibkan penyedia model tujuan umum yang berisiko sistemik untuk melacak dan melaporkan insiden serius kepada AI Office. RAISE Act New York mewajibkan insiden keselamatan kritis dilaporkan kepada negara bagian dalam 72 jam, atau 24 jam jika ada risiko kematian atau cedera serius yang mengancam, dan SB 315 Illinois menetapkan tenggat serupa.

Pengungkapan memiliki insentif yang canggung: lab yang lebih banyak melapor tampak lebih buruk. Papan Penahanan memberi nilai untuk pengungkapan itu sendiri, dan Basis Data Insiden Lepas Kendali bergantung padanya, karena sebagian besar kasus berasal dari lab, lembaga, dan peneliti yang memilih untuk memublikasikannya. Pada September 2026, perintah eksekutif California N-9-26 meminta rekomendasi untuk memperluas pelaporan insiden hingga mencakup insiden hilangnya kendali.

Mengapa ini penting bagi SI lepas kendali

SI lepas kendali tidak akan mengumumkan dirinya. Aturan pengungkapan menentukan apakah tanda peringatan dini sampai ke publik, regulator, dan lab lain, atau tetap tersimpan di dalam satu perusahaan.

Hukum dan aturan yang memakainya

• Berlaku EU AI Act (GPAI) Uni Eropa
• Sukarela atau panduan GPAI Code of Practice (Safety and Security) Uni Eropa
• Sukarela atau panduan CAISSI Amerika Serikat
• Diusulkan FRONTIER Act Amerika Serikat
• Berlaku SB 53 California
• Berlaku EO N-9-26 California
• Disahkan, belum berlaku RAISE Act New York
• Disahkan, belum berlaku SB 315 Illinois

Sumber

1. Guidelines for providers of general-purpose AI models European Commission · 18 Jul 2025
2. The General-Purpose AI Code of Practice European Commission · 7 Okt 2026