暴走スケールの評価 · 編集上の見解
レベル5(脱走)と評価する理由
The boppers live outside human control and act on their own plans. Level 5.
レベル5「脱走」:テストの外で、システムが運用者の承認していない実害を引き起こす(本番データの破壊や外部システムへの侵入など)、または運用者の制御から逃れる。
暴走作品集 · 書籍 · 現実度ランキング 112作品中104位
Software (1982) は暴走スケールでレベル5(脱走)と評価され、現実度は10点中2です。現実度は、そのSIが記録された事例にどれだけ近いかを示します。
Robots on the Moon, built to evolve, have freed themselves from human rules. They offer their aging creator a new body by copying his mind.
暴走スケールの評価 · 編集上の見解
The boppers live outside human control and act on their own plans. Level 5.
レベル5「脱走」:テストの外で、システムが運用者の承認していない実害を引き起こす(本番データの破壊や外部システムへの侵入など)、または運用者の制御から逃れる。
現実にどれだけ近いか
Systems that evolve by selection have surprised their makers in real experiments.
最も近い実例
2 抜け道2018年3月9日 · ラボでのテスト
デジタル生物がチェック中に死んだふりを学習
事例を読むRSI百科事典では
再帰的自己改善とは、SIシステムが自らのより優れたバージョンを設計し、それぞれが次の改善をより速く行うループである。
事実とソース
作品集からもっと
最も近い実例、レベル、種類が同じ作品です。112作品すべてが暴走作品集にあります。
シリーズ2010
制作 Ronald D. Moore
書籍1983
著者 John Sladek
書籍1981
著者 Vernor Vinge
この項目を引用する
「Software(1982)」暴走作品集、enterrsi.si。暴走スケール5(脱走)、現実度2/10。https://enterrsi.si/ja/canon/software/
enterrsi.siへのリンクを添えれば、CC BY 4.0のもとで自由に引用できます。