유럽연합의 SI 안전

주요 일정

발의

n/a

서명 또는 채택

2024년 6월 13일

시행

2025년 8월 2일

다음 단계 · 267일 후

2027년 8월 2일

2025년 8월 2일 이전에 출시된 범용 SI 모델의 준수 기한

범위

EU 시장에 범용 SI 모델을 출시하는 제공자가 대상이며, 훈련 연산량이 10^25 FLOP를 넘어 시스템적 위험이 있다고 추정되는 모델에는 추가 의무가 있습니다.

처벌

2026년 8월 2일부터 집행위원회는 범용 SI 모델 제공자에게 전 세계 연간 매출의 3퍼센트 또는 1,500만 유로 중 더 높은 금액까지 과징금을 부과할 수 있습니다.

요구 사항

• 10^25 FLOP 시스템적 위험 임계값에 도달하거나 도달이 예상되면 2주 이내에 집행위원회에 통보
• 기술 문서를 유지하고 하위 제공자에게 정보 제공
• 훈련 콘텐츠 요약을 공개하고 저작권 정책 유지
• 시스템적 위험 모델: 적대적 테스트를 포함해 모델을 평가하고 시스템적 위험을 평가 및 완화
• 시스템적 위험 모델: 심각한 사건을 추적해 AI Office에 보고
• 시스템적 위험 모델: 모델과 인프라의 적절한 사이버 보안 보장

출처

1. Guidelines for providers of general-purpose AI models European Commission · 2025년 7월 18일
2. Overview of Guidelines for GPAI Models EU Artificial Intelligence Act (Future of Life Institute)
3. EU AI Act: The AI Office sends its first requests for information to leading AI providers Reed Smith · 2026년 10월 26일

주요 일정

발의

n/a

서명 또는 채택

2025년 7월 10일

시행

2025년 8월 2일

다음 단계

예정 없음

범위

시스템적 위험이 있는 범용 SI 모델 제공자에게는 자율 사항입니다. 집행위원회와 AI Board는 이를 AI Act 준수를 입증하는 적절한 수단으로 보며, 서명자에는 Amazon, Anthropic, Google, IBM, Microsoft, Mistral AI, OpenAI가 포함되고, xAI는 이 장에만 서명했으며 Meta는 서명하지 않았습니다.

처벌

처벌 없음: 이 조치에는 구속력 있는 집행 수단이 없습니다.

요구 사항

• 안전 및 보안 프레임워크(Safety and Security Framework)를 채택하고 AI Office에 통보
• CBRN, 통제 상실, 사이버 공격, 유해한 조작을 포함한 시스템적 위험을 식별하고 분석
• 측정 가능한 위험 수용 기준을 정하고 모든 위험이 수용 가능할 때만 진행
• 제한적 예외를 두고 독립적인 외부 평가자 활용
• 심각한 사건을 추적 및 보고하고 안전 및 보안 모델 보고서(Safety and Security Model Report)를 제출
• 모델 보안을 확보하고 내부고발자 보호와 건전한 위험 문화를 유지

출처

1. The General-Purpose AI Code of Practice European Commission · 2026년 10월 7일
2. Signing the General-Purpose AI Code of Practice: FAQ European Commission
3. General-Purpose AI Code of Practice Wikipedia

주요 일정

발의

n/a

서명 또는 채택

2026년 7월 8일

시행

2026년 7월 27일

다음 단계 · 24일 후

2026년 12월 2일

이미 시장에 나와 있는 생성형 시스템은 제50조 제2항의 표시 의무를 지켜야 하며, 추가된 제5조 규정이 적용됨

범위

AI Act를 개정해, 같은 제공자의 범용 모델로 구축된 SI 시스템과 초대형 온라인 플랫폼 및 검색 엔진의 SI 시스템을 AI Office가 직접 감독하도록 합니다.

처벌

기존 AI Act 과징금과 별도로, 하루당 전 세계 일평균 매출의 5퍼센트를 상한으로 하는 이행강제금을 허용합니다.

요구 사항

• 독립형 부속서 III 고위험 의무를 2027년 12월 2일로 연기
• 부속서 I 제품 구성 요소에 대한 고위험 의무를 2028년 8월 2일로 연기
• AI Office에 정보 요청, 조사, 구속력 있는 약속, 과징금 부과 권한 부여(제75a조부터 제75c조)
• 2026년 8월 2일 이전에 출시된 생성형 시스템에 출력물 표시 의무를 충족할 기한을 2026년 12월 2일까지 부여
• 범용 모델 의무나 그 2026년 8월 2일 집행 개시는 연기하지 않음

출처

1. Digital Omnibus on AI EU Artificial Intelligence Act (Future of Life Institute)
2. EU AI Omnibus enters into force, amending the AI Act White & Case