OpenAI 安全上の約束

最も高性能なモデルについて、EU General-Purpose AI Code of Practiceの安全とセキュリティ（Safety and Security）の章に従う。

OpenAI、EU Code of Practiceの署名企業

当サイトによる要約

出典 The General-Purpose AI Code of Practice: signatories European Commission · 2026年10月7日

モデルがCriticalの能力に達したら、それに見合う安全策ができるまで開発を止める。

OpenAI、Preparedness Frameworkバージョン2

原文の言葉

"Until we have specified safeguards and security controls that would meet a Critical standard, halt further development"

出典 Preparedness Framework, Version 2 OpenAI · 2025年4月15日

主要な新モデルの一般公開の前後に、米国AI Safety Instituteにアクセスを認める。

OpenAI、米国AI Safety Instituteとの合意

原文の言葉

"access to major new models from each company prior to and following their public release"

出典 U.S. AI Safety Institute signs agreements regarding AI safety research, testing and evaluation with Anthropic and OpenAI NIST · 2024年8月29日

2025年2月のフランスでのサミットまでに、重大なリスクに関する安全フレームワークを公表する。

OpenAI、ソウル・コミットメントの署名企業

原文の言葉

"publishing a safety framework focused on severe risks by the upcoming AI Summit in France"

出典 Frontier AI Safety Commitments, AI Seoul Summit 2024 UK Department for Science, Innovation and Technology · 2024年5月21日

リリース前に社内外でモデルをテストする。

OpenAI、ホワイトハウスに集まった7社の1社

原文の言葉

"internal and external security testing of their AI systems before their release"

出典 Fact sheet: Biden-Harris Administration secures voluntary commitments from leading artificial intelligence companies to manage the risks posed by AI The White House (archived) · 2023年7月21日

計算資源の20%を、超知能を制御するためのSuperalignmentチームの研究に充てる。

OpenAI、Jan LeikeとIlya Sutskeverの投稿にて

原文の言葉

"dedicating 20% of the compute we've secured to date over the next four years"

出典 Introducing Superalignment OpenAI · 2023年7月5日

安全を重視するプロジェクトが先にAGIの実現に近づいたら、競争をやめてそのプロジェクトを支援する。

OpenAI、憲章（Charter）にて

原文の言葉

"we commit to stop competing with and start assisting this project"

出典 OpenAI Charter OpenAI · 2018年4月9日