わかりやすく言うと
最も高性能なモデルは最も多くの計算量で訓練されるため、立法者は訓練実行の総演算回数を、安全義務を発動させる単純な基準として用いている。EU AI Actは、10^25 FLOPを超えて訓練された汎用モデルにシステミックリスクがあると推定し、モデルの評価、重大なインシデントの報告、セキュリティ確保の義務を課す。カリフォルニア州のSB 53、ニューヨーク州のRAISE Act、イリノイ州のSB 315は10^26回の演算をフロンティア開発者の定義に用い、韓国のAI基本法は大統領令で閾値を定めており、それは10^26 FLOPと報じられている。
閾値は測定が容易で、最大規模の訓練実行では回避が難しい。それが魅力である。一方で不完全でもある。より優れたアルゴリズムは年々少ない計算量で同じ能力に到達するため、固定された閾値が対象とする危険なモデルは時とともに減っていき、実際の能力のテストを併用する必要がある。そのため、いくつかの法律は規制当局がこの数値を見直し、更新できるようにしている。
暴走SIにとっての重要性
閾値は、どのモデルがそもそもテストされ監視されるかを決める。暴走しうる能力を持ちながら、効率よく訓練されて基準線を下回ったモデルは、それを捉えるための規則をすり抜けてしまう。
この用語を使う法律と規則
- 施行中 EU AI Act（GPAI） 欧州連合
- 施行中 SB 53 カリフォルニア州
- 成立済み、未施行 RAISE Act ニューヨーク州
- 成立済み、未施行 SB 315 イリノイ州
- 施行中 AI Basic Act 韓国
出典
- Guidelines for providers of general-purpose AI models European Commission ·
- SB 53: Artificial intelligence models: large developers CalMatters Digital Democracy
RSI百科事典
さらに読む
暴走SIに関する用語、ラボ、モデル、法律、出来事の207項目に加え、暴走インシデント・データベースの全事例を収録しています。
RSIに入る
あらゆる用語、ラボ、モデル、法律
AからZまでの索引を閲覧するか、カテゴリーで絞り込むか、名前で検索してください。