わかりやすく言うと
離陸（テイクオフ）とは、システムが人間レベルに近づいたあと、能力がどれだけ速く上昇するかを表す言葉である。急速な、あるいはハードな離陸では、システムがおおよそ人間並みの能力からそれをはるかに超える水準へと短期間で移行する。多くの場合、それはシステムが自らを改善し始めるか、計算資源の追加が予想をはるかに上回る成果をもたらすためである。そのとき先頭に立つシステムは一つだけかもしれず、世界は飛躍が終わるまで気づかないかもしれない。
急速な離陸を支持する主な論拠は再帰的自己改善である。SIが行う研究は人間が行う研究より速く、その成果は複利的に積み重なる。反対する主な論拠は、チップ、電力、データセンター、実際の実験の必要性といった物理的なボトルネックである。予測者やラボの指導者の間では、どちらの効果が勝るかについて意見が大きく分かれており、2026年にSIがSIを構築しているという報告が増えるにつれ、多くの見積もりが前倒しされた。
暴走SIにとっての重要性
急速な離陸では、規制当局、ラボ、一般の人々が警告の兆候に気づいて対応する時間がほとんどない。暴走したシステムを封じ込める計画の多くは、テストし、一時停止し、修正する時間があることを前提としているが、急速な離陸はその時間を奪う。
RSI百科事典
さらに読む
暴走SIに関する用語、ラボ、モデル、法律、出来事の207項目に加え、暴走インシデント・データベースの全事例を収録しています。
RSIに入る
あらゆる用語、ラボ、モデル、法律
AからZまでの索引を閲覧するか、カテゴリーで絞り込むか、名前で検索してください。