わかりやすく言うと
Anthropicは2023年9月に最初のResponsible Scaling Policy（責任あるスケーリング・ポリシー）を公表した。その考え方は「もし〜ならば」という形の一連の約束である。モデルが定められた能力レベル、たとえば生物兵器への実質的な支援や自律的な研究といったレベルに達した場合、訓練やリリースを続ける前に、特定のセキュリティと導入に関する安全策を整えなければならない。ASL-1、ASL-2などと呼ばれるこのレベルは、危険な病原体に用いられるバイオセーフティ・レベルを手本にしている。
このポリシーは何度も変更されてきた。2026年2月24日のバージョン3.0は、公開のFrontier Safety Roadmapと定期的なRisk Reportsを中心に全体を書き直し、それまでの暗黙の一時停止の約束を削除した。2026年7月8日のバージョン3.4は、場合によってリスク報告書の外部レビューを行うことと、年1回の第三者による遵守状況のレビューを追加した。名称も一般名詞化しており、責任あるスケーリング・ポリシーという言葉は、OpenAIのPreparedness FrameworkやGoogle DeepMindのFrontier Safety Frameworkと並んで、この種のラボのフレームワーク全般を指すのによく使われる。
暴走SIにとっての重要性
責任あるスケーリングは、制御できないシステムは作らないというラボの主要な約束である。封じ込めボードは、こうした約束がどれだけ具体的で、拘束力があり、検証されているかを評価する。
ラボの方針
- Responsible Scaling Policy Anthropic · バージョン3.4
RSI百科事典
さらに読む
暴走SIに関する用語、ラボ、モデル、法律、出来事の207項目に加え、暴走インシデント・データベースの全事例を収録しています。
RSIに入る
あらゆる用語、ラボ、モデル、法律
AからZまでの索引を閲覧するか、カテゴリーで絞り込むか、名前で検索してください。