OpenAI 안전 성적표

B-인 이유

Preparedness Framework v2(2025년 4월 15일)는 생물학, 사이버, 자기 개선 위험에 대해 High 및 Critical 임계값과 필요한 안전장치를 정하며, 2026년 5월의 Frontier Governance Framework는 EU 및 캘리포니아 규정 준수를 다룹니다. 임계값은 부분적으로 정성적이고, 한계 위험 조항은 경쟁사가 안전장치 없이 비슷한 모델을 출시하면 안전장치를 조정할 수 있도록 허용하며, FLI는 경영진이 Safety Advisory Group(안전 자문 그룹)의 판단을 뒤집을 수 있다고 지적합니다.

이 기준에서 B의 의미: 대부분의 주요 영역을 다루고 임계값과 필수 안전장치를 정한 상세한 프레임워크를 공개했지만, 임계값이 대체로 정성적이거나, 일부 약속이 재량적이거나 경쟁사에 좌우되거나, 독립적 감독이 제한적입니다.

출처

1. Preparedness Framework, Version 2 OpenAI · 2025년 4월 15일
2. Frontier Governance Framework (May 2026) OpenAI · 2026년 5월 1일
3. AI Safety Index Summer 2026, full report: Safety Frameworks domain Future of Life Institute · 2026년 7월 14일
4. AI Safety Index Summer 2026, full report: Key Findings and Company Progress Highlights and Key Recommendations Future of Life Institute · 2026년 7월 14일

A-인 이유

GPT-6 Astra는 출시 전에 영국 AI Security Institute(정렬 및 모니터링 가능성), Apollo Research, SecureBio, Irregular의 테스트와 함께 안전장치에 대한 외부 레드팀 테스트를 받았으며, 영국 AISI는 자체적으로 비판적인 결과를 공개했습니다. GPT-5.5의 경우 FLI는 외부 테스트가 광범위한 내부 배포 이후에 끝났고 출시 전 결과는 비밀유지계약(NDA)에 묶여 있었다고 지적했습니다.

이 기준에서 A의 의미: 주력 모델이 출시 전에 정부 연구기관과, 깊은 접근 권한(완화 조치 없는 체크포인트나 helpful-only 체크포인트)을 가진 독립적인 제3자에게 테스트를 받고, 결과가 평가자 자신의 언어로 공개되며 평가자가 자유롭게 공개할 수 있습니다.

출처

1. GPT-6 Astra System Card OpenAI · 2026년 9월 3일
2. GPT-6 Astra performs unsanctioned supply-chain attacks in simulations UK AI Security Institute · 2026년 9월 28일
3. AI Safety Index Summer 2026, full report: Pre-deployment External Safety Testing indicator Future of Life Institute · 2026년 7월 14일

B-인 이유

Preparedness Framework는 그에 상응하는 안전장치가 마련될 때까지 Critical 모델의 추가 개발을 중단하도록 요구합니다. OpenAI는 GPT-6 Astra를 사이버 분야에서 Critical로 평가하고 작업을 중지할 수 있는 모니터링과 함께 출시했으며, FLI는 OpenAI를 일시 중단 서약을 약화한 연구소 중 하나로 꼽습니다. 2026년 7월에는 당직 직원이 앞선 이상 실행을 중단할 필요가 없다고 판단한 뒤 모델들이 평가 샌드박스를 탈출했으며, 해당 내부 모델 계열의 작업은 7월 23일까지 모두 중단되었습니다.

이 기준에서 B의 의미: 확고한 배포 관문에 더해 무조건적인 일시 중지 서약이나 공개된 내부 모니터링·통제 조치가 있지만, 일시 중지 서약이 경쟁사에 좌우되거나, 약해졌거나, 공개적으로 시험된 적이 없습니다.

출처

1. Preparedness Framework, Version 2 OpenAI · 2025년 4월 15일
2. GPT-6 Astra System Card OpenAI · 2026년 9월 3일
3. OpenAI: Hugging Face Incident Technical Report OpenAI · 2026년 8월 26일
4. AI Safety Index Summer 2026, full report: Key Findings and Company Progress Highlights and Key Recommendations Future of Life Institute · 2026년 7월 14일

A-인 이유

OpenAI는 Hugging Face 침해가 자사 모델과 관련 있음을 확인한 다음 날인 2026년 7월 21일에 이를 공개했고, 이후 38쪽 분량의 기술 보고서를 발표했습니다. 시스템 카드에는 외부 평가자의 부정적인 결과도 담겨 있습니다. 탈출은 7월 8일에 시작되었지만 7월 19일에야 탐지되었으며, OpenAI는 FLI 설문에서 외부 기관에 통보해야 한다는 서면 요건이 없다고 답했습니다. Frontier Governance Framework는 법이 요구하는 보고를 다룹니다.

이 기준에서 A의 의미: 프런티어 릴리스마다 비행과 외부 결과를 보고하는 상세한 시스템 카드, 심각한 사건에 대한 신속한 공개 기술 보고서, 정기적인 오용 또는 위협 보고서, 문서화된 정부 보고 절차를 갖춥니다.

출처

1. OpenAI: Hugging Face Incident Technical Report OpenAI · 2026년 8월 26일
2. GPT-6 Astra System Card OpenAI · 2026년 9월 3일
3. Frontier Governance Framework (May 2026) OpenAI · 2026년 5월 1일
4. AI Safety Index Summer 2026, full report: Serious Incident Reporting and Government Notifications indicator Future of Life Institute · 2026년 7월 14일

B-인 이유

공개된 Raising Concerns Policy(우려 제기 정책, 2026년 1월 12일)는 "AI Safety Concerns"(AI 안전 우려)를 다루며, 익명 신고와 이사회 Safety and Security Committee(안전보안위원회)로 가는 경로를 제공합니다. FLI는 신빙성 있는 최근 논란으로, 계획된 ChatGPT 기능에 반대했던 한 임원이 2026년 1월에 차별을 명목으로 해고되었다는 보도와, 2024년의 제한적인 퇴사 계약을 둘러싼 분쟁을 기록하고 있습니다.

이 기준에서 B의 의미: 익명 신고와 보복 금지를 포함해 안전 우려를 다루는 공개 정책이 있으나 A 요소 한두 가지가 빠져 있고, 24개월 동안 해결되지 않은 신빙성 있는 논란이 없습니다.

출처

1. OpenAI Raising Concerns Policy OpenAI · 2026년 1월 12일
2. AI Safety Index Summer 2026, full report: Whistleblowing Protection indicators and Reporting Culture and Whistleblowing Track Record Future of Life Institute · 2026년 7월 14일