Keselamatan SI di California

Tanggal penting

Diajukan

7 Jan 2025

Ditandatangani atau diadopsi

29 Sep 2025

Berlaku sejak

1 Jan 2026

Langkah berikutnya · dalam 54 hari

1 Januari 2027

Tenggat laporan tahunan pertama Cal OES tentang insiden keselamatan kritis, laporan pelapor dari Jaksa Agung, dan tinjauan Department of Technology atas definisi model terdepan

Cakupan

Pengembang yang melatih model terdepan di atas 10^26 operasi; pengembang model terdepan besar, dengan pendapatan tahunan lebih dari $500 juta, memikul kewajiban paling berat.

Sanksi

Denda perdata hingga $1 juta per pelanggaran, yang hanya ditegakkan oleh Jaksa Agung California.

Yang diwajibkan

• Pengembang besar memublikasikan kerangka SI terdepan, meninjaunya setiap tahun, dan memublikasikan perubahan material dalam 30 hari
• Memublikasikan laporan transparansi sebelum menerapkan model terdepan yang baru atau dimodifikasi secara substansial
• Melaporkan insiden keselamatan kritis kepada Cal OES dalam 15 hari, atau dalam 24 jam jika ada risiko kematian atau cedera serius yang mendesak
• Pengembang besar mengirimkan ringkasan penilaian risiko katastrofik internal kepada Cal OES setiap tiga bulan
• Melindungi pelapor, dengan saluran pelaporan internal anonim di pengembang besar

Sumber

1. SB 53: Artificial intelligence models: large developers CalMatters Digital Democracy
2. California SB 53: Frontier AI Law Explained CASRAI · 19 Sep 2026
3. OpenAI wants California to toughen the AI law it once fought The Next Web · 24 Agu 2026

Tanggal penting

Diajukan

21 Feb 2025

Ditandatangani atau diadopsi

9 Sep 2026

Berlaku sejak

1 Jan 2027

Langkah berikutnya · dalam 174 hari

1 Mei 2027

Target Executive Order N-9-26 untuk memublikasikan kriteria organisasi verifikasi independen (tenggat undang-undang 1 Januari 2028)

Cakupan

Auditor SI yang mengajukan penetapan negara bagian sebagai organisasi verifikasi independen; penggunaan jasa mereka oleh pengembang bersifat sukarela.

Sanksi

Tanpa sanksi: kebijakan ini tidak memiliki penegakan yang mengikat.

Yang diwajibkan

• Government Operations Agency menetapkan kriteria pengajuan, penangguhan, dan kualifikasi paling lambat 1 Januari 2028
• Lembaga tersebut membentuk kelompok kerja yang mencakup insinyur dan pakar keselamatan SI
• Organisasi yang ditetapkan menyampaikan laporan tahunan kepada lembaga tersebut dan badan legislatif
• Tidak ada pihak yang diwajibkan memakai organisasi tersebut atau diaudit; audit relevan tetapi tidak menentukan dalam gugatan atas kerugian

Sumber

1. SB 813: Independent verification organizations CalMatters Digital Democracy
2. California Finalizes Next Wave of State AI and Privacy Regulation WilmerHale · 5 Okt 2026

Tanggal penting

Diajukan

n/a

Ditandatangani atau diadopsi

18 Sep 2026

Berlaku sejak

18 Sep 2026

Langkah berikutnya · dalam 8 hari

16 November 2026

Tenggat rekomendasi Government Operations Agency tentang audit di lokasi, tombol pemati model terdepan, dan pelaporan insiden hilangnya kendali

Cakupan

Lembaga negara bagian California; rekomendasinya tidak mengikat dan setiap kewajiban baru bagi pengembang SI terdepan memerlukan undang-undang.

Sanksi

Tanpa sanksi: kebijakan ini tidak memiliki penegakan yang mengikat.

Yang diwajibkan

• Merekomendasikan audit di lokasi secara berkala oleh organisasi verifikasi independen di dalam pengembang model terdepan besar
• Merekomendasikan verifikasi independen atas kerangka keselamatan, laporan transparansi, dan penilaian risiko
• Merekomendasikan tombol pemati (kill switch) untuk model terdepan yang efektivitasnya diverifikasi secara berkelanjutan
• Merekomendasikan perluasan pelaporan insiden keselamatan kritis hingga mencakup insiden hilangnya kendali
• Memublikasikan kriteria untuk organisasi verifikasi independen paling lambat 1 Mei 2027

Sumber

1. Newsom sets November 16 deadline to study frontier AI kill switch PPC Land · 20 Sep 2026
2. California AI Governance: What Executive Order N-9-26 Means RadarFirst · 23 Sep 2026
3. Newsom orders California agencies to develop new AI safety plans after rejecting tougher law CalMatters · 18 Sep 2026