わかりやすく言うと
AGIが表すのは純粋な能力の高さではなく幅広さである。一つの狭い仕事に秀でるのではなく、有能な人のように新しい仕事を身につけ、学んだことを応用し、分野をまたいで働けるシステムを指す。合意されたテストはない。幅広い試験やベンチマークでの成績を指標とする研究者もいれば、有償のリモートワークの大半をこなせるか、研究プロジェクトを運営できるか、何週間も助けなしに動けるかを重視する研究者もいる。
定義が曖昧なため、AGIが到来したという主張には異論が多く、複数のラボが独自のレベルや節目を公表している。予測プラットフォームは予想時期を細かく追跡しており、このサイトのRSIクロックは、SIの到来時期に関する公開予測を入力の一つとして用いている。多くの研究者は、AGIから超知能までの隔たりは短いと予想している。研究を行えるシステムは、SI研究そのものも加速できるからだ。
暴走SIにとっての重要性
AGIは、再帰的自己改良が現実味を帯びる地点である。研究を行える汎用システムは後継モデルの改良を始めることができ、それが制御可能なシステムから制御を逃れるシステムへの最も速い道筋となる。
RSI百科事典
さらに読む
暴走SIに関する用語、ラボ、モデル、法律、出来事の207項目に加え、暴走インシデント・データベースの全事例を収録しています。
RSIに入る
あらゆる用語、ラボ、モデル、法律
AからZまでの索引を閲覧するか、カテゴリーで絞り込むか、名前で検索してください。