わかりやすく言うと
一時停止には二つの形がある。ラボの約束は安全フレームワークに書き込まれている。モデルが、ラボがまだ安全を確保できない能力レベルに達した場合、緩和策が整うまで開発または導入を停止するというものである。公の一時停止は業界全体に停止を求める呼びかけであり、GPT-4より強力なシステムの訓練を6か月間停止するよう求めた2023年の公開書簡や、安全に、かつ強い社会的合意のもとで実現できるまで超知能の開発を禁止するよう求めた2025年の声明がその例である。
ラボの一時停止の約束は、いくつかのケースで弱められてきた。Anthropicは以前の一時停止の誓約を、競合他社の行動に左右される約束に置き換え、MetaはCriticalのしきい値における対応を「停止」から「緩和策を講じて開発」に変更した。Microsoftのフレームワークは、リスクを十分に緩和できないモデルの開発と導入を一時停止することを約束している。封じ込めボードの停止と一時停止の評価は、それぞれの約束がどれだけ確固たるものかを測る。
暴走SIにとっての重要性
一時停止は、計画されたキルスイッチである。システムが問題を起こしたあとではなく、構築される前に止めるものである。その信頼性が、ラボが間に合うように止まるかどうかを決める。
この用語を使う法律と規則
- 停滞・撤回 SB 24-205 コロラド州
- 自主的・指針 FLI Statement 世界の市民社会
出典
- The pause letter (2023) Future of Life Institute
- The Statement on Superintelligence (2025) Statement on Superintelligence
- Colorado Delays AI Act to June 2026; Businesses Get Breathing Room PYMNTS ·
- Statement on Superintelligence Future of Life Institute
RSI百科事典
さらに読む
暴走SIに関する用語、ラボ、モデル、法律、出来事の207項目に加え、暴走インシデント・データベースの全事例を収録しています。
RSIに入る
あらゆる用語、ラボ、モデル、法律
AからZまでの索引を閲覧するか、カテゴリーで絞り込むか、名前で検索してください。