わかりやすく言うと
この言葉を広めたのは、数学者でSF作家のVernor Vingeである。彼は1993年の論文で、30年以内に人間を超える知能が登場すると予測し、そのような出来事をそもそも導くことができるのかと問いかけた。このイメージは物理学に由来する。通常のモデルが機能しなくなり、予測が成り立たなくなる点である。
特異点は、特定の技術というより一つの地平線である。それは、科学、工学、経済成長の主な原動力がもはや人間の思考ではなくなり、人々が次に何が来るのかを確実に予測できなくなった世界を表している。知能爆発のありうる帰結として扱う論者もいれば、きわめて急速な変化の比喩として扱う論者もいる。いずれにせよ、それは同じ実際的な問いを提起する。変化のペースがそれを監督すべき人々を追い越す前に、どのような安全策、法律、制度が整っていなければならないのか、という問いである。
暴走SIにとっての重要性
特異点を越えた後では、暴走したシステムを正せるかどうかは、事前に下された決定にかかっている。暴走SIに関する取り組みが、能力が到来した後ではなく、その前に存在していなければならない管理策に焦点を当てているのはそのためである。
出典
- Vinge's singularity essay (1993) Vinge, 1993
RSI百科事典
さらに読む
暴走SIに関する用語、ラボ、モデル、法律、出来事の207項目に加え、暴走インシデント・データベースの全事例を収録しています。
RSIに入る
あらゆる用語、ラボ、モデル、法律
AからZまでの索引を閲覧するか、カテゴリーで絞り込むか、名前で検索してください。