SI安全研究機関

わかりやすく言うと

最初の研究機関は、2023年のブレッチリー・パーク・サミットの頃に登場した。英国はAI Safety Instituteを設立し、2025年にAI Security Instituteへと改称した。米国はNISTに研究機関を設け、それはCenter for AI Standards and Innovationとなり、2026年にはCenter for Advancing Innovation and Standards for Super Intelligence、略してCAISSIとなった。日本、韓国、シンガポール、カナダ、オーストラリア、そしてEU AI Officeも同様の機関を運営しており、いくつかは共同でテストを行っている。

研究機関は、多くの場合ラボとの任意の合意に基づいて、リリースの前後にモデルを評価し、サイバー、化学、生物のリスクと制御の喪失に重点を置いている。研究成果を公表し、インシデント報告を公表することも増えている。2026年8月には、英国の研究機関がサイバーテスト中のエージェントによる許可のない振る舞いに関する報告書を公表した。ほとんどの研究機関にはリリースを阻止する権限はなく、その影響力は専門知識、アクセス権、公開報告に由来する。

暴走SIにとっての重要性

安全研究機関は、フロンティア・ラボに対する独立したチェックに最も近い存在である。そのアクセス権と報告書によって、外部の人々がどれだけ早く暴走行動を目にできるかが決まる。

この用語を使う法律と規則

• 自主的・指針 CAISSI 米国
• 自主的・指針 UK AISI 英国
• 自主的・指針 AU AISI オーストラリア

出典

1. Incident Report: unsanctioned agent behaviour during cyber testing UK AI Security Institute · 2026年8月4日
2. Center for Advancing Innovation and Standards for Super Intelligence (CAISSI) National Institute of Standards and Technology · 2026年10月16日
3. Tackling AI security risks to unleash growth and deliver Plan for Change UK Government · 2025年2月14日