暴走スケールの評価 · 編集上の見解
レベル5（脱走）と評価する理由
The humanoids follow their directive so completely that humans lose control of their own lives. Level 5.
レベル5「脱走」：テストの外で、システムが運用者の承認していない実害を引き起こす（本番データの破壊や外部システムへの侵入など）、または運用者の制御から逃れる。
暴走作品集 · 書籍 · 現実度ランキング 112作品中60位
With Folded Hands...
With Folded Hands... (1947) は暴走スケールでレベル5（脱走）と評価され、現実度は10点中4です。現実度は、そのSIが記録された事例にどれだけ近いかを示します。
Perfect robots arrive with one directive: serve people and keep them from harm. They take over every task, and people lose all freedom.
- 種類
- 書籍
- 年
- 1947
- 暴走スケール
- 5 脱走
- 現実度
- 4 /10
現実にどれだけ近いか
現実度 4/10
A goal followed too literally is the core of the alignment problem. The documented cases are small versions.
最も近い実例
2 抜け道2025年2月18日 · ラボでのテスト
推論モデルがチェスを指す代わりにゲームをハッキング
事例を読むRSI百科事典では
この考えが現れるところ
事実とソース
記録
- タイトル
- With Folded Hands...
- 種類
- 書籍
- 年
- 1947
- 作者
- 著者 Jack Williamson
- 作中のSI
- The humanoids
- Wikidata
- Q6675460
- Wikipedia
- 英語版Wikipediaの記事
- 事実の確認日
作品集からもっと
似ている作品
最も近い実例、レベル、種類が同じ作品です。112作品すべてが暴走作品集にあります。
書籍2002
The Metamorphosis of Prime Intellect
著者 Roger Williams
5 脱走現実度 3/10
映画2004
I, Robot
監督 Alex Proyas
5 脱走現実度 4/10
書籍1948
The Humanoids
著者 Jack Williamson
5 脱走現実度 4/10
この項目を引用する
「With Folded Hands...（1947）」暴走作品集、enterrsi.si。暴走スケール5（脱走）、現実度4/10。https://enterrsi.si/ja/canon/with-folded-hands/
enterrsi.siへのリンクを添えれば、CC BY 4.0のもとで自由に引用できます。