| Anthropic | Responsible Scaling Policy | 3.4 | 2026년 7월 8일 | 버전 3.0(2026년 2월 24일)은 공개 Frontier Safety Roadmap과 정기 Risk Report를 중심으로 정책을 다시 쓰고, 다음 능력 수준에 대해서만 완화 조치를 명시했으며, 이전의 암묵적인 일시 중지 약속을 삭제했습니다. 이후 버전에서는 Long-Term Benefit Trust가 Risk Report에 대한 외부 검토를 요청할 수 있게 했고, 자동화된 R&D 임계값을 개정했습니다. |
| OpenAI | Preparedness Framework | 2 | 2025년 4월 15일 | 생물학·화학, 사이버 보안, SI 자기 개선 능력을 High와 Critical 임계값에 비추어 추적하며, Safety Advisory Group이 경영진에 조언합니다. OpenAI는 한 모델이 Critical 사이버 임계값에 도달했을 수 있다고 판단한 뒤 2026년 8월 18일에 전면 개정을 발표했으며, 이번 업데이트 시점까지 대체 버전은 확인되지 않았습니다. |
| OpenAI | Frontier Governance Framework | 2026년 5월 | 2026년 5월 28일 | OpenAI의 안전·보안 관행을 캘리포니아의 프런티어 투명성법과 EU General-Purpose AI Code of Practice에 대응시키며, 사이버 공격, CBRN, 유해한 조작, 통제 상실을 다룹니다. Preparedness Framework와 나란히 운영되며 이를 대체하지 않습니다. |
| Google DeepMind | Frontier Safety Framework | 3.1 | 2026년 4월 17일 | CBRN, 사이버, 유해한 조작, ML R&D에 대한 Critical Capability Level(중대 능력 수준)을 정하고, 정렬 실패와 연결된 은밀성 및 상황 인식 수준을 포함한 Tracked Capability Level(추적 능력 수준)을 추가합니다. Critical Capability Level에 도달하면 외부 배포나 고위험 내부 배포 전에 안전성 논증(safety case)과 거버넌스 승인이 필요합니다. |
| Meta | Superintelligence Scaling Framework | 2.1 | 2026년 10월 2일 | 예전 이름이 Frontier AI Framework였던 이 프레임워크의 2026년 10월 개정판은 사이버 보안, 화학·생물학, 통제 상실 결과에 걸쳐 Critical, High, Moderate 위험 수준을 정합니다. High 위험 모델은 위험을 Moderate로 낮추는 완화 조치가 있어야만 배포되며, Critical을 넘는 개발은 재앙적 위험이 허용 가능하다고 판단될 때에만 계속됩니다. |
| xAI | Frontier Artificial Intelligence Framework | 2026년 6월 30일 | 2026년 6월 30일 | xAI가 CBRN, 공격적 사이버, 통제 상실, 유해한 조작을 다루는 체계적 위험 평가를 최소 연 1회 실시하고, 위험이 허용 가능하다고 판단될 때에만 출시하도록 약속합니다. 또한 모델 가중치에 대한 보안 통제와, 시스템 종료까지 포함할 수 있는 사건 대응 절차를 정합니다. |
| Microsoft | Frontier Governance Framework | 2026년 2월 | n/a | Microsoft의 가장 진보한 모델을 CBRN, 공격적 사이버, 고도 자율성, 통제 상실, 유해한 조작 능력에 대해 점검하고, 최소 6개월마다 다시 점검합니다. 배포 전에 위험을 낮음 또는 중간 수준으로 낮춰야 하며, 그렇지 못하면 개발과 배포를 중단합니다. |
| Amazon | Frontier Model Safety Framework | 2026년 9월 | 2026년 9월 17일 | CBRN 무기 확산, 공격적 사이버 작전, 통제 상실에 대한 Critical Capability Threshold(중대 능력 임계값)를 정하고, 임계값에 도달한 모델은 안전장치로 위험을 허용 가능한 수준까지 낮추기 전에는 배포하지 않겠다고 Amazon이 약속합니다. 2025년 첫 버전을 검토해 개정한 업데이트입니다. |