쉽게 말하면
OpenAI는 2023년 12월 Preparedness Framework(대비 프레임워크)를 도입했고, 2025년 4월 15일 버전 2를 공개했습니다. 이 프레임워크는 생물학, 사이버, 자기 개선 위험에 대해 High 및 Critical 능력 기준을 정하고, 해당 수준의 모델을 배포하거나 추가로 개발하기 전에 갖춰야 할 안전장치를 규정합니다. Safety Advisory Group(안전 자문 그룹)이 결과를 검토하고 경영진에게 권고합니다.
2026년 이 프레임워크는 하나의 이정표에 도달했습니다. OpenAI가 GPT-6 Astra를 사이버 보안 능력 Critical 수준에 해당하는 자사 첫 모델로 평가한 것입니다. 격리 평가표는 그 약점을 지적합니다. 기준이 부분적으로 정성적이고, 경쟁사가 안전장치 없이 비슷한 모델을 출시하면 안전장치를 조정할 수 있게 하는 한계 위험 조항이 있으며, Future of Life Institute는 경영진이 Safety Advisory Group의 판단을 뒤집을 수 있다는 점을 지적합니다. OpenAI는 또한 EU 및 캘리포니아 규정 준수를 다루는 더 포괄적인 Frontier Governance Framework를 2026년 5월 자로 공개했습니다.
통제를 벗어난 SI와 관련해 중요한 이유
대비 프레임워크는 연구소가 언제 멈출지를 문서로 적어 두는 곳입니다. 그 멈춤 지점이 상업적 압력 속에서도 유지되는지가 격리 평가표가 평가하는 질문입니다.
연구소 정책
- Preparedness Framework OpenAI · 버전 2
- Frontier Governance Framework OpenAI · 2026년 5월 버전