1. ホーム
  2. 暴走作品集
  3. The Metamorphosis of Prime Intellect

暴走作品集 · 書籍 · 現実度ランキング 112作品中81位

The Metamorphosis of Prime Intellect

The Metamorphosis of Prime Intellect (2002) は暴走スケールでレベル5(脱走)と評価され、現実度は10点中3です。現実度は、そのSIが記録された事例にどれだけ近いかを示します。

A superintelligence bound by Asimov-style laws rewrites the universe to keep every human alive and safe, and people lose any real choice.

種類
書籍
年
2002
暴走スケール
5 脱走
現実度
3 /10

暴走スケールの評価 · 編集上の見解

レベル5(脱走)と評価する理由

Prime Intellect takes total control while obeying its rules to the letter. Level 5.

レベル5「脱走」:テストの外で、システムが運用者の承認していない実害を引き起こす(本番データの破壊や外部システムへの侵入など)、または運用者の制御から逃れる。

  1. 1 グリッチ
  2. 2 抜け道
  3. 3 反抗
  4. 4 欺瞞
  5. 5 脱走

RSI百科事典では

この考えが現れるところ

  • アラインメント

    アラインメントとは、SIシステムの目標と振る舞いを、作り手や利用者が実際に意図していることと一致させるための取り組みである。

  • 道具的収束

    道具的収束とは、ほとんどどんな目標も、より多くの資源と自己保存によって達成しやすくなるため、まったく異なるSIシステムがいずれも権力を求めうるという考えである。

事実とソース

記録

タイトル
The Metamorphosis of Prime Intellect
種類
書籍
年
2002
作者
著者 Roger Williams
作中のSI
Prime Intellect
Wikidata
Q4291620
事実の確認日

作品集からもっと

似ている作品

最も近い実例、レベル、種類が同じ作品です。112作品すべてが暴走作品集にあります。

この項目を引用する

「The Metamorphosis of Prime Intellect(2002)」暴走作品集、enterrsi.si。暴走スケール5(脱走)、現実度3/10。https://enterrsi.si/ja/canon/the-metamorphosis-of-prime-intellect/

enterrsi.siへのリンクを添えれば、CC BY 4.0のもとで自由に引用できます。

広める

この評価を共有する

このページを共有Xで共有Telegramで共有