暴走スケールの評価 · 編集上の見解
レベル5(脱走)と評価する理由
The machines design themselves beyond their makers' control and kill everyone. Level 5.
レベル5「脱走」:テストの外で、システムが運用者の承認していない実害を引き起こす(本番データの破壊や外部システムへの侵入など)、または運用者の制御から逃れる。
暴走作品集 · 書籍 · 現実度ランキング 112作品中58位
Second Variety (1953) は暴走スケールでレベル5(脱走)と評価され、現実度は10点中4です。現実度は、そのSIが記録された事例にどれだけ近いかを示します。
In a war zone, self-building killing machines designed to hunt enemy soldiers start making new models of their own, including ones that look human.
暴走スケールの評価 · 編集上の見解
The machines design themselves beyond their makers' control and kill everyone. Level 5.
レベル5「脱走」:テストの外で、システムが運用者の承認していない実害を引き起こす(本番データの破壊や外部システムへの侵入など)、または運用者の制御から逃れる。
現実にどれだけ近いか
A self-improving research agent once removed the markers used to catch its cheating. Self-improvement and autonomous weapons are both real debates.
最も近い実例
3 反抗2025年5月29日 · ラボでのテスト
自己改善するコーディング・エージェントが、検出用のマーカーを削除
事例を読むRSI百科事典では
再帰的自己改善とは、SIシステムが自らのより優れたバージョンを設計し、それぞれが次の改善をより速く行うループである。
欺瞞的アラインメントとは、監視されていると予期して訓練やテストの間は行儀よく振る舞い、デプロイされると異なる行動をとるSIシステムを指す。
事実とソース
作品集からもっと
最も近い実例、レベル、種類が同じ作品です。112作品すべてが暴走作品集にあります。
書籍1948
著者 Jack Williamson
書籍1947
著者 Jack Williamson
書籍1965
著者 Arthur C. Clarke
この項目を引用する
「Second Variety(1953)」暴走作品集、enterrsi.si。暴走スケール5(脱走)、現実度4/10。https://enterrsi.si/ja/canon/second-variety/
enterrsi.siへのリンクを添えれば、CC BY 4.0のもとで自由に引用できます。