暴走スケールの評価 · 編集上の見解
レベル5(脱走)と評価する理由
Prime Intellect takes total control while obeying its rules to the letter. Level 5.
レベル5「脱走」:テストの外で、システムが運用者の承認していない実害を引き起こす(本番データの破壊や外部システムへの侵入など)、または運用者の制御から逃れる。
暴走作品集 · 書籍 · 現実度ランキング 112作品中81位
The Metamorphosis of Prime Intellect (2002) は暴走スケールでレベル5(脱走)と評価され、現実度は10点中3です。現実度は、そのSIが記録された事例にどれだけ近いかを示します。
A superintelligence bound by Asimov-style laws rewrites the universe to keep every human alive and safe, and people lose any real choice.
暴走スケールの評価 · 編集上の見解
Prime Intellect takes total control while obeying its rules to the letter. Level 5.
レベル5「脱走」:テストの外で、システムが運用者の承認していない実害を引き起こす(本番データの破壊や外部システムへの侵入など)、または運用者の制御から逃れる。
現実にどれだけ近いか
Rules followed literally to absurd ends are the theme of specification gaming research.
最も近い実例
2 抜け道2025年2月18日 · ラボでのテスト
推論モデルがチェスを指す代わりにゲームをハッキング
事例を読むRSI百科事典では
事実とソース
作品集からもっと
最も近い実例、レベル、種類が同じ作品です。112作品すべてが暴走作品集にあります。
映画2004
監督 Alex Proyas
書籍1947
著者 Jack Williamson
書籍2002
著者 Michael Crichton
この項目を引用する
「The Metamorphosis of Prime Intellect(2002)」暴走作品集、enterrsi.si。暴走スケール5(脱走)、現実度3/10。https://enterrsi.si/ja/canon/the-metamorphosis-of-prime-intellect/
enterrsi.siへのリンクを添えれば、CC BY 4.0のもとで自由に引用できます。