캘리포니아의 SI 안전

주요 일정

발의

2025년 1월 7일

서명 또는 채택

2025년 9월 29일

시행

2026년 1월 1일

다음 단계 · 54일 후

2027년 1월 1일

중대한 안전 사건에 관한 Cal OES의 첫 연례 보고서, 법무장관의 내부고발자 보고서, Department of Technology의 프런티어 정의 검토 제출 기한

범위

10^26회를 넘는 연산으로 프런티어 모델을 훈련하는 개발사가 대상이며, 연 매출 5억 달러를 넘는 대형 프런티어 개발사가 가장 무거운 의무를 집니다.

처벌

위반 1건당 최대 100만 달러의 민사 제재금이 부과되며, 집행은 캘리포니아 법무장관만 할 수 있습니다.

요구 사항

• 대형 개발사는 프런티어 SI 프레임워크를 공개하고 매년 검토하며, 중대한 변경 사항은 30일 이내에 게시
• 새롭거나 크게 수정된 프런티어 모델을 배포하기 전에 투명성 보고서를 공개
• 중대한 안전 사건은 15일 이내에, 사망이나 중상의 임박한 위험이 있으면 24시간 이내에 Cal OES에 보고
• 대형 개발사는 내부 재앙적 위험 평가 요약을 3개월마다 Cal OES에 제출
• 내부고발자를 보호하고, 대형 개발사는 익명 내부 신고 채널을 운영

출처

1. SB 53: Artificial intelligence models: large developers CalMatters Digital Democracy
2. California SB 53: Frontier AI Law Explained CASRAI · 2026년 9월 19일
3. OpenAI wants California to toughen the AI law it once fought The Next Web · 2026년 8월 24일

주요 일정

발의

2025년 2월 21일

서명 또는 채택

2026년 9월 9일

시행

2027년 1월 1일

다음 단계 · 174일 후

2027년 5월 1일

독립 검증 기관 기준 게시에 관한 Executive Order N-9-26 목표일(법정 기한 2028년 1월 1일)

범위

독립 검증 기관으로 주 정부의 지정을 받으려는 SI 감사 기관이 대상이며, 개발사의 이용은 자율입니다.

처벌

처벌 없음: 이 조치에는 구속력 있는 집행 수단이 없습니다.

요구 사항

• Government Operations Agency(정부운영청)가 2028년 1월 1일까지 신청, 정지, 자격 기준을 마련
• 기관이 엔지니어와 SI 안전 전문가가 참여하는 실무 그룹을 소집
• 지정 기관은 기관과 주 의회에 연례 보고서를 제출
• 누구도 기관을 이용하거나 감사를 받을 의무는 없으며, 감사는 피해 소송에서 참고는 되지만 결정적이지는 않음

출처

1. SB 813: Independent verification organizations CalMatters Digital Democracy
2. California Finalizes Next Wave of State AI and Privacy Regulation WilmerHale · 2026년 10월 5일

주요 일정

발의

n/a

서명 또는 채택

2026년 9월 18일

시행

2026년 9월 18일

다음 단계 · 8일 후

2026년 11월 16일

현장 감사, 프런티어 모델 킬 스위치, 통제 상실 사건 보고에 관한 Government Operations Agency 권고안 제출 기한

범위

캘리포니아 주 정부 기관이 대상이며, 권고에는 구속력이 없고 프런티어 SI 개발사에 새 의무를 부과하려면 입법이 필요합니다.

처벌

처벌 없음: 이 조치에는 구속력 있는 집행 수단이 없습니다.

요구 사항

• 독립 검증 기관이 대형 프런티어 개발사 내부에서 정기 현장 감사를 하도록 권고
• 안전 프레임워크, 투명성 보고서, 위험 평가에 대한 독립 검증을 권고
• 효과가 지속적으로 검증되는 프런티어 모델용 킬 스위치를 권고
• 중대한 안전 사건 보고 대상을 통제 상실 사건으로 확대하도록 권고
• 2027년 5월 1일까지 독립 검증 기관 기준을 게시

출처

1. Newsom sets November 16 deadline to study frontier AI kill switch PPC Land · 2026년 9월 20일
2. California AI Governance: What Executive Order N-9-26 Means RadarFirst · 2026년 9월 23일
3. Newsom orders California agencies to develop new AI safety plans after rejecting tougher law CalMatters · 2026년 9월 18일