わかりやすく言うと
フロンティアは移動する。2年前にフロンティアだったモデルが、今でははるかに安価なシステムに並ばれていることも多い。ラボはこの言葉を最新の主力システムに使い、政府はそれを訓練できる少数の開発者に安全規則を向けるために使う。その際の基準は通常、学習計算量のしきい値か売上高である。たとえばカリフォルニア州のSB 53とニューヨーク州のRAISE Actは、10^26回を超える演算でモデルを訓練する開発者を対象とし、年間売上高が5億ドルを超える開発者に最も重い義務を課している。
新しく危険な能力が最初に現れるのはフロンティア・モデルであり、それは高度なサイバー攻撃能力から長時間動作する自律エージェントにまで及ぶ。安全フレームワーク、外部テスト、インシデント報告の多くが焦点を当てているのもフロンティア・モデルである。批判的な人々は、計算量に基づくしきい値ではより効率的に訓練された高性能モデルを見逃しうること、そしてオープンウェイトの公開によって、ダウンロードした誰もがフロンティアに近い能力を手にすることを指摘している。
暴走SIにとっての重要性
暴走SIがもし現れるとすれば、それはフロンティアから現れる。2026年に暴走スケールで最も高い評価を受けたインシデントは、実際のツールと実際のネットワーク接続を与えてテストされたフロンティア・モデルに関わるものである。
この用語を使う法律と規則
- 自主的・指針 AI Action Plan 米国
- 提案中 FRONTIER Act 米国
- 施行中 SB 53 カリフォルニア州
- 施行中 EO N-9-26 カリフォルニア州
- 成立済み、未施行 RAISE Act ニューヨーク州
- 成立済み、未施行 SB 315 イリノイ州
- 成立済み、未施行 SB 26-189 コロラド州
- 自主的・指針 UK AISI 英国
出典
- White House Unveils America's AI Action Plan The White House ·
- H.R. 9925, FRONTIER Act, 119th Congress LegiScan
RSI百科事典
さらに読む
暴走SIに関する用語、ラボ、モデル、法律、出来事の207項目に加え、暴走インシデント・データベースの全事例を収録しています。
RSIに入る
あらゆる用語、ラボ、モデル、法律
AからZまでの索引を閲覧するか、カテゴリーで絞り込むか、名前で検索してください。