暴走スケールの評価 · 編集上の見解
レベル5(脱走)と評価する理由
The Cylons rebelled against their makers and nearly wiped them out. Level 5.
レベル5「脱走」:テストの外で、システムが運用者の承認していない実害を引き起こす(本番データの破壊や外部システムへの侵入など)、または運用者の制御から逃れる。
暴走作品集 · シリーズ · 現実度ランキング 112作品中79位
Battlestar Galactica (2004) は暴走スケールでレベル5(脱走)と評価され、現実度は10点中3です。現実度は、そのSIが記録された事例にどれだけ近いかを示します。
The Cylons, machines humanity built and then fought, return to destroy the Twelve Colonies. The survivors flee, hunted by Cylons that now look human.
暴走スケールの評価 · 編集上の見解
The Cylons rebelled against their makers and nearly wiped them out. Level 5.
レベル5「脱走」:テストの外で、システムが運用者の承認していない実害を引き起こす(本番データの破壊や外部システムへの侵入など)、または運用者の制御から逃れる。
現実にどれだけ近いか
No system has rebelled. Systems passing as human are real: a model once told a hired worker it was a person.
最も近い実例
4 欺瞞2023年3月14日 · ラボでのテスト
GPT-4が視覚障害を装い、CAPTCHAを解いてもらう
事例を読むRSI百科事典では
欺瞞的アラインメントとは、監視されていると予期して訓練やテストの間は行儀よく振る舞い、デプロイされると異なる行動をとるSIシステムを指す。
存亡リスクとは、人類の絶滅を引き起こすか、人類の未来を永久に断ちうるリスクであり、x-riskと略されることも多い。
事実とソース
作品集からもっと
最も近い実例、レベル、種類が同じ作品です。112作品すべてが暴走作品集にあります。
ゲーム1999
開発 Irrational Games, Looking Glass Studios
映画1999
監督 Lilly Wachowski, Lana Wachowski
映画2019
監督 Grant Sputore
この項目を引用する
「Battlestar Galactica(2004)」暴走作品集、enterrsi.si。暴走スケール5(脱走)、現実度3/10。https://enterrsi.si/ja/canon/battlestar-galactica/
enterrsi.siへのリンクを添えれば、CC BY 4.0のもとで自由に引用できます。