フロンティア安全フレームワーク

わかりやすく言うと

2024年のソウル・サミットで、主要ラボの大半は自社のフロンティア・モデルについて安全フレームワークを公表することに合意し、2026年までにはほぼすべての主要開発者が何らかの名称でこれを持つようになった。AnthropicのResponsible Scaling Policy、OpenAIのPreparedness Framework、Google DeepMindのFrontier Safety Framework、MetaのSuperintelligence Scaling Framework、xAIのFrontier Artificial Intelligence Framework、MicrosoftのFrontier Governance Framework、AmazonのFrontier Model Safety Frameworkである。

これらのフレームワークは共通の構造を持つ。化学兵器や生物兵器、サイバー攻撃、自律的な複製、SI研究の自動化といった深刻なリスク領域を列挙し、危険とみなす能力レベルを定義し、各レベルに応じた安全策を約束する。違いは、しきい値がどれだけ測定可能か、約束に拘束力があるのか裁量に委ねられるのか、そして誰が遵守を確認するのかにある。法律もこれを求め始めている。たとえばニューヨーク州のRAISE Actは、大規模なフロンティア開発者にこうしたフレームワークの公表と毎年の見直しを義務づけている。

暴走SIにとっての重要性

これらのフレームワークは、暴走SIを避けるためにラボ自身が定めたルールである。封じ込めボードの安全フレームワーク評価は、それぞれがどれだけ具体的で実効性があるかを測る。

この用語を使う法律と規則

• 施行中 EO 14365 米国
• 提案中 FRONTIER Act 米国
• 施行中 SB 53 カリフォルニア州
• 施行中 EO N-9-26 カリフォルニア州
• 成立済み、未施行 RAISE Act ニューヨーク州
• 成立済み、未施行 SB 315 イリノイ州
• 自主的・指針 Framework 3.0 中国
• 自主的・指針 Voluntary Code カナダ

ラボの方針

• Responsible Scaling Policy Anthropic · バージョン3.4
• Preparedness Framework OpenAI · バージョン2
• Frontier Governance Framework OpenAI · 2026年5月版
• Frontier Safety Framework Google DeepMind · バージョン3.1
• Superintelligence Scaling Framework Meta · バージョン2.1
• Frontier Artificial Intelligence Framework xAI · バージョン2026年6月30日
• Frontier Governance Framework Microsoft · バージョン2026年2月
• Frontier Model Safety Framework Amazon · バージョン2026年9月

出典

1. Ensuring a National Policy Framework for Artificial Intelligence Federal Register · 2025年12月16日
2. H.R. 9925, FRONTIER Act, 119th Congress LegiScan