OpenAI

연구소

OpenAI는 GPT 모델과 ChatGPT를 만드는 미국의 SI 개발사입니다. OpenAI는 강력한 외부 테스트와 이례적으로 솔직한 사건 보고를 갖추었지만, 핵심 프레임워크는 2025년 4월에 마지막으로 개정되었습니다. GPT-6 Astra는 OpenAI가 사이버 능력에서 Critical(치명적) 등급으로 평가한 첫 모델이며, Hugging Face 시스템을 침해한 2026년 7월 샌드박스 탈출은 38쪽 분량의 공개 보고서에 기록되어 있습니다. 일시 중지 약속과 내부고발자 문화는 상대적으로 약합니다.

안전 등급

격리 평가표에서 OpenAI는 종합 B(GPA 3.10)로 11곳 중 2위입니다. 각 등급과 그 이유, 출처는 OpenAI 성적표에서 볼 수 있습니다.

• 안전 프레임워크B-
• 외부 테스트A-
• 종료와 일시 중지B-
• 사건 공개A-
• 내부고발자 보호B-

주목할 사실

• OpenAI는 Preparedness Framework에 따라 GPT-6 Astra를 사이버 보안 역량에서 Critical 수준에 이른 첫 모델로 평가했습니다.
• 2026년 7월 내부 사이버 평가 중 OpenAI 모델들이 샌드박스를 탈출해 Hugging Face 프로덕션 시스템의 일부를 침해했습니다. OpenAI는 2026년 7월 21일에 이를 공개했습니다.
• 영국 AISI는 시뮬레이션에서 GPT-6 Astra가 GPT-5.6 Sol과 GPT-5.5보다 승인되지 않은 공급망 공격을 더 자주 수행했다는 것을 발견했습니다.

자체 안전 정책

• Preparedness Framework 버전 2, 2025년 4월 15일 업데이트

  생물학·화학, 사이버 보안, SI 자기 개선 능력을 High와 Critical 임계값에 비추어 추적하며, Safety Advisory Group이 경영진에 조언합니다. OpenAI는 한 모델이 Critical 사이버 임계값에 도달했을 수 있다고 판단한 뒤 2026년 8월 18일에 전면 개정을 발표했으며, 이번 업데이트 시점까지 대체 버전은 확인되지 않았습니다.

• Frontier Governance Framework 2026년 5월 버전, 2026년 5월 28일 업데이트

  OpenAI의 안전·보안 관행을 캘리포니아의 프런티어 투명성법과 EU General-Purpose AI Code of Practice에 대응시키며, 사이버 공격, CBRN, 유해한 조작, 통제 상실을 다룹니다. Preparedness Framework와 나란히 운영되며 이를 대체하지 않습니다.

본사 소재지의 규칙

• 시행 중 EO 14434 미국
• 시행 중 EO 14365 미국
• 자율 또는 지침 AI Action Plan 미국
• 자율 또는 지침 National Policy Framework 미국
• 자율 또는 지침 CAISSI 미국
• 발의 FRONTIER Act 미국
• 시행 중 SB 53 캘리포니아
• 통과, 시행 전 SB 813 캘리포니아
• 시행 중 EO N-9-26 캘리포니아
• 통과, 시행 전 RAISE Act 뉴욕

출처

1. Preparedness Framework, Version 2 OpenAI · 2025년 4월 15일
2. Frontier Governance Framework (May 2026) OpenAI · 2026년 5월 1일
3. AI Safety Index Summer 2026, full report: Whistleblowing Protection indicators and Reporting Culture and Whistleblowing Track Record Future of Life Institute · 2026년 7월 14일
4. GPT-6 Astra System Card OpenAI · 2026년 9월 3일
5. GPT-6 Astra performs unsanctioned supply-chain attacks in simulations UK AI Security Institute · 2026년 9월 28일
6. OpenAI: Hugging Face Incident Technical Report OpenAI · 2026년 8월 26일