쉽게 말하면
모델이 테스트나 실제 사용에서 위험하게 행동하면, 누군가는 그 사실을 알아야 할 사람들에게 알려야 합니다. 사건 공개는 자발적인 블로그 게시물과 시스템 카드의 한 섹션부터 법적 의무까지 다양합니다. EU AI Act는 시스템적 위험이 있는 범용 모델 제공자에게 심각한 사건을 추적해 AI Office에 보고하도록 요구합니다. 뉴욕의 RAISE Act는 중대 안전 사건을 72시간 이내에, 사망이나 중상의 위험이 임박한 경우에는 24시간 이내에 주 정부에 보고하도록 요구하며, 일리노이주 SB 315도 비슷한 기한을 정하고 있습니다.
공개에는 곤란한 유인 구조가 있습니다. 더 많이 보고하는 연구소가 더 나빠 보인다는 것입니다. 격리 평가표는 공개 자체를 긍정적으로 평가하며, 이탈 사건 데이터베이스도 공개에 의존합니다. 대부분의 사례가 스스로 공개하기로 한 연구소, 연구 기관, 연구자에게서 나오기 때문입니다. 2026년 9월 캘리포니아주 행정명령 N-9-26은 사건 보고 범위를 통제 상실 사건으로 넓히는 방안에 대한 권고를 요청했습니다.
통제를 벗어난 SI와 관련해 중요한 이유
통제를 벗어난 SI는 스스로 정체를 드러내지 않을 것입니다. 공개 규칙은 초기 경고 신호가 대중, 규제 당국, 다른 연구소에 전달될지, 아니면 한 회사 안에 머물지를 결정합니다.
이 용어를 쓰는 법률과 규칙
- 시행 중 EU AI Act (GPAI) 유럽연합
- 자율 또는 지침 GPAI Code of Practice (Safety and Security) 유럽연합
- 자율 또는 지침 CAISSI 미국
- 발의 FRONTIER Act 미국
- 시행 중 SB 53 캘리포니아
- 시행 중 EO N-9-26 캘리포니아
- 통과, 시행 전 RAISE Act 뉴욕
- 통과, 시행 전 SB 315 일리노이
출처
- Guidelines for providers of general-purpose AI models European Commission ·
- The General-Purpose AI Code of Practice European Commission ·