OpenAI 안전 약속

가장 뛰어난 모델에 대해 EU General-Purpose AI Code of Practice의 안전 및 보안(Safety and Security) 장을 따른다.

OpenAI, EU Code of Practice 서명 기업

이 사이트의 요약

출처 The General-Purpose AI Code of Practice: signatories European Commission · 2026년 10월 7일

모델이 Critical 역량에 이르면 그에 맞는 안전장치가 생길 때까지 개발을 멈춘다.

OpenAI, Preparedness Framework 버전 2

원문 그대로

"Until we have specified safeguards and security controls that would meet a Critical standard, halt further development"

출처 Preparedness Framework, Version 2 OpenAI · 2025년 4월 15일

주요 신규 모델의 공개 출시 전후에 미국 AI Safety Institute가 접근할 수 있게 한다.

OpenAI, 미국 AI Safety Institute와의 협약

원문 그대로

"access to major new models from each company prior to and following their public release"

출처 U.S. AI Safety Institute signs agreements regarding AI safety research, testing and evaluation with Anthropic and OpenAI NIST · 2024년 8월 29일

2025년 2월 프랑스 정상회의 전에 심각한 위험에 대한 안전 프레임워크를 발표한다.

OpenAI, 서울 약속 서명 기업

원문 그대로

"publishing a safety framework focused on severe risks by the upcoming AI Summit in France"

출처 Frontier AI Safety Commitments, AI Seoul Summit 2024 UK Department for Science, Innovation and Technology · 2024년 5월 21일

출시 전에 회사 안팎에서 모델을 테스트한다.

OpenAI, 백악관에 모인 7개 기업 중 하나

원문 그대로

"internal and external security testing of their AI systems before their release"

출처 Fact sheet: Biden-Harris Administration secures voluntary commitments from leading artificial intelligence companies to manage the risks posed by AI The White House (archived) · 2023년 7월 21일

컴퓨팅 자원의 20%를 초지능 통제를 위한 Superalignment 팀의 연구에 쓴다.

OpenAI, Jan Leike와 Ilya Sutskever의 글에서

원문 그대로

"dedicating 20% of the compute we've secured to date over the next four years"

출처 Introducing Superalignment OpenAI · 2023년 7월 5일

안전을 중시하는 프로젝트가 먼저 AGI에 가까워지면 경쟁을 멈추고 그 프로젝트를 돕는다.

OpenAI, 헌장(Charter)에서

원문 그대로

"we commit to stop competing with and start assisting this project"

출처 OpenAI Charter OpenAI · 2018년 4월 9일