わかりやすく言うと
OpenAIは2023年12月にPreparedness Frameworkを導入し、2025年4月15日にバージョン2を公表した。このフレームワークは、生物学、サイバー、自己改善の各リスクについてHighとCriticalの能力しきい値を定め、それらのレベルにあるモデルを導入したりさらに開発したりする前に整えておくべき安全策を規定している。Safety Advisory Group（安全諮問グループ）が結果を審査し、経営陣に勧告を行う。
2026年、このフレームワークは節目を迎えた。OpenAIがGPT-6 Astraを、同社として初めてサイバーセキュリティ能力がCriticalレベルにあるモデルと評価したのである。封じ込めボードはその弱点を指摘している。しきい値の一部は定性的であり、限界リスク条項は、競合他社が同等のモデルを安全策なしで出荷した場合に安全策を調整することを認めている。またFuture of Life Instituteは、経営陣がSafety Advisory Groupの判断を覆せることを指摘している。OpenAIは、EUとカリフォルニア州の規制遵守を対象とする、2026年5月付けのより広範なFrontier Governance Frameworkも公表している。
暴走SIにとっての重要性
こうした備えのためのフレームワークは、ラボがどの時点で止まるかを書き記す場である。その停止点が商業的な圧力の下でも守られるかどうかが、封じ込めボードの評価する問いである。
ラボの方針
- Preparedness Framework OpenAI · バージョン2
- Frontier Governance Framework OpenAI · 2026年5月版
RSI百科事典
さらに読む
暴走SIに関する用語、ラボ、モデル、法律、出来事の207項目に加え、暴走インシデント・データベースの全事例を収録しています。
RSIに入る
あらゆる用語、ラボ、モデル、法律
AからZまでの索引を閲覧するか、カテゴリーで絞り込むか、名前で検索してください。