ラボ
AmazonはNovaモデルを開発する米国のテクノロジー企業である。Amazonは2026年9月にFrontier Model Safety Frameworkを更新し、Novaモデルのフレームワーク評価を、Nemesys InsightsとMETRによる外部レビュー付きで公表している。ただし公約は展開時の判定にとどまり、公開されている内部告発窓口は会社全般向けのものである。
安全性の評価
封じ込めボードでAmazonは総合C（GPA 2.12）で、11社中6位。各成績とその理由、出典はAmazonの成績表に掲載している。
- 安全フレームワークC+
- 外部テストC+
- 停止と一時中断C
- インシデント開示C+
- 内部告発者保護C-
注目すべき事実
- Amazonは2025年11月、Novaモデルを対象とする非公開のバグ報奨金プログラムを開始した。
- METRは、Nova 2.0 LiteがAmazonのフレームワークにおける研究自動化のCritical Capability Thresholdを超えていないと結論づけた。
独自の安全方針
- Frontier Model Safety Framework バージョン2026年9月、2026年9月17日更新
CBRN兵器の拡散、攻撃的なサイバー作戦、制御の喪失について重大能力閾値（Critical Capability Thresholds）を定め、閾値に達したモデルは、セーフガードによってリスクが許容できる水準に下がるまでデプロイしないことをAmazonに義務付けています。これは2025年の初版を見直した改訂版です。
拠点国・地域のルール
- 施行中 EO 14434 米国
- 施行中 EO 14365 米国
- 自主的・指針 AI Action Plan 米国
- 自主的・指針 National Policy Framework 米国
- 自主的・指針 CAISSI 米国
- 提案中 FRONTIER Act 米国
- 施行中 SB 53 カリフォルニア州
- 成立済み、未施行 SB 813 カリフォルニア州
- 施行中 EO N-9-26 カリフォルニア州
- 成立済み、未施行 RAISE Act ニューヨーク州
出典
- Amazon's Frontier Model Safety Framework (September 2026) Amazon ·
- Frontier AI Safety Policies (index of published company frameworks) METR ·
- Evaluating Nova 2.0 Lite model under Amazon's Frontier Model Safety Framework arXiv (Amazon authors) ·
- Strengthening AI safety evaluation through independent third-party review Amazon Science ·
- Code of Business Conduct and Ethics Amazon ·
暴走ログでは
Amazonのシステムが関わったインシデント
暴走インシデント・データベースでは1件の事例にAmazonのシステムが関わっている。ここには最新の事例を表示している。
RSI百科事典
さらに読む
暴走SIに関する用語、ラボ、モデル、法律、出来事の207項目に加え、暴走インシデント・データベースの全事例を収録しています。
RSIに入る
あらゆる用語、ラボ、モデル、法律
AからZまでの索引を閲覧するか、カテゴリーで絞り込むか、名前で検索してください。