OpenAI 安全性成績表

B-の理由

Preparedness Framework v2（2025年4月15日）は、生物、サイバー、自己改良のリスクについてHighとCriticalの閾値を定め、必要な安全策を規定している。また2026年5月のFrontier Governance FrameworkはEUとカリフォルニア州の規制への準拠を扱う。閾値は部分的に定性的で、競合他社が同等のモデルを安全策なしでリリースした場合には安全策の調整を認める限界リスク条項があり、FLIは経営陣がSafety Advisory Groupの判断を覆せる点を指摘している。

この基準におけるBの意味：主要な分野の大半を網羅し、閾値と必要なセーフガードを定めた詳細なフレームワークを公開しているが、閾値の多くが定性的である、一部のコミットメントが裁量的であるか競合他社次第である、あるいは独立した監督が限られている。

出典

1. Preparedness Framework, Version 2 OpenAI · 2025年4月15日
2. Frontier Governance Framework (May 2026) OpenAI · 2026年5月1日
3. AI Safety Index Summer 2026, full report: Safety Frameworks domain Future of Life Institute · 2026年7月14日
4. AI Safety Index Summer 2026, full report: Key Findings and Company Progress Highlights and Key Recommendations Future of Life Institute · 2026年7月14日

A-の理由

GPT-6 Astraはリリース前に、英国のAI Security Institute（アラインメントと監視可能性）、Apollo Research、SecureBio、Irregularによってテストされ、安全策についても外部のレッドチーミングを受けた。英国AISIは自らの重大な所見を公表した。GPT-5.5については、外部テストが広範な社内展開の後に終わり、リリース前の結果は秘密保持契約の下に置かれたままだったとFLIは指摘している。

この基準でのAの意味：主力モデルがリリース前に、政府機関と、深いアクセス（軽減策なし、または有用性のみのチェックポイント）を持つ独立した第三者によってテストされ、所見が評価者自身の言葉で公表され、公表の自由が保障されている。

出典

1. GPT-6 Astra System Card OpenAI · 2026年9月3日
2. GPT-6 Astra performs unsanctioned supply-chain attacks in simulations UK AI Security Institute · 2026年9月28日
3. AI Safety Index Summer 2026, full report: Pre-deployment External Safety Testing indicator Future of Life Institute · 2026年7月14日

B-の理由

Preparedness Frameworkは、Criticalのモデルについて、それに見合う安全策ができるまでさらなる開発を停止することを求めている。OpenAIはGPT-6 Astraをサイバー分野でCriticalと評価し、ワークロードを停止できる監視を付けてリリースした。一方でFLIはOpenAIを一時停止の誓約を弱めたラボの一つに挙げている。2026年7月には、同社のモデルが評価用サンドボックスから脱出した。それ以前の異常な実行について、待機担当のスタッフが停止の必要はないと助言した後のことであり、社内モデル群のワークロードは7月23日までに停止された。

この基準におけるBの意味：確固としたデプロイの関門に加え、無条件の一時停止の誓約、または公開された内部の監視・制御措置があるが、一時停止の誓約が競合他社次第である、弱められている、あるいは公の場で試されたことがない。

出典

1. Preparedness Framework, Version 2 OpenAI · 2025年4月15日
2. GPT-6 Astra System Card OpenAI · 2026年9月3日
3. OpenAI: Hugging Face Incident Technical Report OpenAI · 2026年8月26日
4. AI Safety Index Summer 2026, full report: Key Findings and Company Progress Highlights and Key Recommendations Future of Life Institute · 2026年7月14日

A-の理由

OpenAIは、Hugging Faceへの侵害を自社モデルと結びつけた翌日の2026年7月21日にそれを開示し、後に38ページの技術報告書を公表した。同社のシステムカードには外部評価者の否定的な所見も含まれている。脱出は7月8日に始まったが、7月19日まで検知されなかった。またFLIの調査で、OpenAIは外部機関への通知を求める文書化された要件はないと回答した。同社のFrontier Governance Frameworkは、法律で義務づけられた報告を対象としている。

この基準でのAの意味：フロンティア級の各リリースについて、不正な挙動と外部の所見を報告する詳細なシステムカードがあり、重大なインシデントについて迅速な公開技術報告があり、悪用や脅威に関する定期的な報告があり、政府への報告手続きが文書化されている。

出典

1. OpenAI: Hugging Face Incident Technical Report OpenAI · 2026年8月26日
2. GPT-6 Astra System Card OpenAI · 2026年9月3日
3. Frontier Governance Framework (May 2026) OpenAI · 2026年5月1日
4. AI Safety Index Summer 2026, full report: Serious Incident Reporting and Government Notifications indicator Future of Life Institute · 2026年7月14日

B-の理由

公開されているRaising Concerns Policy（2026年1月12日）は「AI Safety Concerns」を対象とし、匿名報告と、取締役会のSafety and Security Committeeへの報告経路を提供している。FLIは最近の信頼できる論争を記録している。計画中のChatGPTの機能に反対していた幹部が、差別を理由として2026年1月に解雇されたと報じられた件と、2024年の制限的な退職合意をめぐる論争である。

この基準でのBの意味：安全性に関する懸念を対象とし、匿名報告と報復禁止を備えた公開ポリシーがあるが、Aの要素が1つか2つ欠けており、24か月以内に未解決の信頼できる論争がない。

出典

1. OpenAI Raising Concerns Policy OpenAI · 2026年1月12日
2. AI Safety Index Summer 2026, full report: Whistleblowing Protection indicators and Reporting Culture and Whistleblowing Track Record Future of Life Institute · 2026年7月14日