カリフォルニア州のSI安全性

主要な期日

提出

2025年1月7日

署名・採択

2025年9月29日

発効

2026年1月1日

次のステップ · 54日後

2027年1月1日

重大な安全インシデントに関するCal OESの初の年次報告書、司法長官による内部告発者報告書、Department of Technologyによるフロンティアの定義の見直しの期限

対象範囲

10^26回を超える演算でフロンティア・モデルを訓練する開発者。年間売上高5億ドル超の大規模フロンティア開発者が最も重い義務を負う。

罰則

違反1件につき最大100万ドルの民事制裁金。執行はカリフォルニア州司法長官のみが行う。

求められること

• 大規模開発者はフロンティアSIフレームワークを公表し、毎年見直し、重要な変更は30日以内に掲載する
• 新規または大幅に変更したフロンティア・モデルを展開する前に透明性報告書を公表する
• 重大な安全インシデントを15日以内に、死亡や重傷の差し迫った危険がある場合は24時間以内に、Cal OESに報告する
• 大規模開発者は、社内の壊滅的リスク評価の概要を3か月ごとにCal OESに送る
• 内部告発者を保護し、大規模開発者には匿名の社内報告窓口を設ける

出典

1. SB 53: Artificial intelligence models: large developers CalMatters Digital Democracy
2. California SB 53: Frontier AI Law Explained CASRAI · 2026年9月19日
3. OpenAI wants California to toughen the AI law it once fought The Next Web · 2026年8月24日

主要な期日

提出

2025年2月21日

署名・採択

2026年9月9日

発効

2027年1月1日

次の段階 · 174日後

2027年5月1日

Executive Order N-9-26による、独立検証機関の基準の公表目標（法定期限は2028年1月1日）

対象範囲

独立検証機関として州の指定を求めるSI監査機関。開発者がそれらを利用するかどうかは任意である。

罰則

罰則なし：この措置には拘束力のある執行手段がありません。

求められること

• Government Operations Agencyが2028年1月1日までに申請、停止、資格の基準を定める
• 同機関は、エンジニアやSI安全性の専門家を含む作業部会を招集する
• 指定を受けた機関は、同機関と州議会に年次報告書を提出する
• 機関の利用や監査を受けることは誰にも義務づけられない。監査は損害賠償訴訟で考慮されるが、決定的なものではない

出典

1. SB 813: Independent verification organizations CalMatters Digital Democracy
2. California Finalizes Next Wave of State AI and Privacy Regulation WilmerHale · 2026年10月5日

主要な期日

提出

n/a

署名・採択

2026年9月18日

発効

2026年9月18日

次の段階 · 8日後

2026年11月16日

Government Operations Agencyによる、現地監査、フロンティア・モデルのキルスイッチ、制御喪失インシデントの報告に関する勧告の期限

対象範囲

カリフォルニア州の行政機関。勧告に拘束力はなく、フロンティアSI開発者に新たな義務を課すには立法が必要となる。

罰則

罰則なし：この措置には拘束力のある執行手段がありません。

求められること

• 大規模フロンティア開発者の内部で、独立検証機関による定期的な現地監査を行うよう勧告する
• 安全フレームワーク、透明性報告書、リスク評価の独立した検証を勧告する
• 有効性が継続的に検証されるフロンティア・モデル用のキルスイッチを勧告する
• 重大な安全インシデントの報告対象を制御喪失のインシデントにまで広げるよう勧告する
• 2027年5月1日までに独立検証機関の基準を掲示する

出典

1. Newsom sets November 16 deadline to study frontier AI kill switch PPC Land · 2026年9月20日
2. California AI Governance: What Executive Order N-9-26 Means RadarFirst · 2026年9月23日
3. Newsom orders California agencies to develop new AI safety plans after rejecting tougher law CalMatters · 2026年9月18日