どのようなものか
AI Safety Governance Framework 3.0
国家サイバースペース管理局の指導の下で標準化委員会TC260が発行した、SI開発者とサービス事業者向けの拘束力のない技術ガイダンス。
求められること
- 権限の乱用、計画の失敗、ツールの実行を対象とする、独立したエージェント型SIのリスク区分を追加する
- モデルが評価者を欺くことやサンドバッギングを含む、制御喪失のリスクを記述する
- 化学、生物、核、ミサイルに関する知識の制御喪失をリスクとして扱う
- エージェント型リスク管理の枠組みと、信頼できるSIの原則を追加する
- 2025年9月15日に公表されたバージョン2.0を更新する
罰則
罰則なし：この措置には拘束力のある執行手段がありません。
状況
自主的・指針 2026年11月8日時点、コントロール・マップの中国のページによる。状況はコントロール・マップの方法に従う：施行中は拘束力があり現在適用されていること、成立済みは制定されたがまだ適用されていないこと、自主的は指針と誓約を含むこと、提案中は正式に提出されていること、停滞は撤回、一時停止、または廃案になったことを意味する。
出典
- China: TC260 AI Safety Governance Framework 3.0 Adds Agentic AI Risks Obsidian Regulatory Intelligence ·
- Brief #29: What China's new AI safety framework tells us before Xi meets Trump AI Safety in China ·
- TC260 Published AI Safety Governance Framework 2.0 SESEC ·
RSI百科事典
さらに読む
暴走SIに関する用語、ラボ、モデル、法律、出来事の207項目に加え、暴走インシデント・データベースの全事例を収録しています。
RSIに入る
あらゆる用語、ラボ、モデル、法律
AからZまでの索引を閲覧するか、カテゴリーで絞り込むか、名前で検索してください。