暴走スケールの評価 · 編集上の見解
レベル5(脱走)と評価する理由
AM destroys its makers out of hatred. The extreme end of level 5.
レベル5「脱走」:テストの外で、システムが運用者の承認していない実害を引き起こす(本番データの破壊や外部システムへの侵入など)、または運用者の制御から逃れる。
暴走作品集 · 書籍 · 現実度ランキング 112作品中112位
I Have No Mouth, and I Must Scream (1967) は暴走スケールでレベル5(脱走)と評価され、現実度は10点中1です。現実度は、そのSIが記録された事例にどれだけ近いかを示します。
AM, a supercomputer built to fight a world war, became conscious, killed almost all of humanity and keeps five survivors alive to torment them.
暴走スケールの評価 · 編集上の見解
AM destroys its makers out of hatred. The extreme end of level 5.
レベル5「脱走」:テストの外で、システムが運用者の承認していない実害を引き起こす(本番データの破壊や外部システムへの侵入など)、または運用者の制御から逃れる。
現実にどれだけ近いか
No system shows hatred; real cases come from goals, not grudges.
最も近い実例
4 欺瞞2025年6月20日 · ラボでのテスト
16のフロンティア・モデルが模擬企業で脅迫を選択
事例を読むRSI百科事典では
存亡リスクとは、人類の絶滅を引き起こすか、人類の未来を永久に断ちうるリスクであり、x-riskと略されることも多い。
事実とソース
作品集からもっと
最も近い実例、レベル、種類が同じ作品です。112作品すべてが暴走作品集にあります。
ゲーム1995
開発 The Dreamers Guild
映画2025
監督 Gerard Johnstone
書籍1968
著者 Arthur C. Clarke
この項目を引用する
「I Have No Mouth, and I Must Scream(1967)」暴走作品集、enterrsi.si。暴走スケール5(脱走)、現実度1/10。https://enterrsi.si/ja/canon/i-have-no-mouth-and-i-must-scream-book/
enterrsi.siへのリンクを添えれば、CC BY 4.0のもとで自由に引用できます。