프런티어 안전 프레임워크

쉽게 말하면

2024년 서울 정상회의에서 대부분의 주요 연구소는 자사 프런티어 모델에 대한 안전 프레임워크를 공개하기로 합의했으며, 2026년에는 거의 모든 주요 개발사가 이름은 달라도 이런 프레임워크를 갖추고 있었습니다. Anthropic의 Responsible Scaling Policy, OpenAI의 Preparedness Framework, Google DeepMind의 Frontier Safety Framework, Meta의 Superintelligence Scaling Framework, xAI의 Frontier Artificial Intelligence Framework, Microsoft의 Frontier Governance Framework, Amazon의 Frontier Model Safety Framework가 그 예입니다.

이 프레임워크들은 공통된 구조를 갖습니다. 화학 및 생물 무기, 사이버 공격, 자율 복제, 자동화된 SI 연구 같은 심각한 위험 영역을 나열하고, 위험하다고 볼 능력 수준을 정의하며, 각 수준에 맞는 안전장치를 약속합니다. 차이는 기준을 얼마나 측정 가능하게 정했는지, 약속이 구속력이 있는지 재량에 맡겨지는지, 그리고 준수 여부를 누가 확인하는지에 있습니다. 법률도 이를 요구하기 시작했습니다. 예를 들어 뉴욕의 RAISE Act는 대형 프런티어 개발사가 이런 프레임워크를 공개하고 매년 검토하도록 의무화합니다.

통제를 벗어난 SI와 관련해 중요한 이유

이 프레임워크들은 통제를 벗어난 SI를 피하기 위해 연구소가 스스로 정한 규칙입니다. 격리 평가표의 안전 프레임워크 등급은 각 프레임워크가 얼마나 구체적이고 집행 가능한지를 평가합니다.

이 용어를 쓰는 법률과 규칙

• 시행 중 EO 14365 미국
• 발의 FRONTIER Act 미국
• 시행 중 SB 53 캘리포니아
• 시행 중 EO N-9-26 캘리포니아
• 통과, 시행 전 RAISE Act 뉴욕
• 통과, 시행 전 SB 315 일리노이
• 자율 또는 지침 Framework 3.0 중국
• 자율 또는 지침 Voluntary Code 캐나다

연구소 정책

• Responsible Scaling Policy Anthropic · 버전 3.4
• Preparedness Framework OpenAI · 버전 2
• Frontier Governance Framework OpenAI · 2026년 5월 버전
• Frontier Safety Framework Google DeepMind · 버전 3.1
• Superintelligence Scaling Framework Meta · 버전 2.1
• Frontier Artificial Intelligence Framework xAI · 버전 2026년 6월 30일
• Frontier Governance Framework Microsoft · 버전 2026년 2월
• Frontier Model Safety Framework Amazon · 버전 2026년 9월

출처

1. Ensuring a National Policy Framework for Artificial Intelligence Federal Register · 2025년 12월 16일
2. H.R. 9925, FRONTIER Act, 119th Congress LegiScan