1. 首页
  2. 失控作品库
  3. The Metamorphosis of Prime Intellect

失控作品库 · 图书 · 真实度排名第 81 位(共 112 部)

The Metamorphosis of Prime Intellect

The Metamorphosis of Prime Intellect (2002) 在失控等级上评为 5 级(出逃),真实度为 3/10,用来衡量其中的SI与有记录的案例有多接近。

A superintelligence bound by Asimov-style laws rewrites the universe to keep every human alive and safe, and people lose any real choice.

类型
图书
年份
2002
失控等级
5 出逃
真实度
3 /10

失控等级评级 · 编辑观点

为何评为 5 级(出逃)

Prime Intellect takes total control while obeying its rules to the letter. Level 5.

第 5 级,出逃:在测试之外,系统造成了运营方未批准的真实损害,例如破坏线上数据或侵入外部系统,或者脱离了运营方的控制。

  1. 1 故障
  2. 2 绕规
  3. 3 抗命
  4. 4 欺骗
  5. 5 出逃

RSI 百科中的相关条目

这个概念出现在哪里

  • 对齐

    对齐是指确保 SI 系统的目标和行为与其创造者和用户的真实意图一致的工作。

  • 工具性趋同

    工具性趋同是这样一种观点:几乎任何目标在拥有更多资源并保全自身时都更容易实现,因此截然不同的 SI 系统可能都会寻求权力。

事实与来源

记录

标题
The Metamorphosis of Prime Intellect
类型
图书
年份
2002
创作者
作者 Roger Williams
其中的SI
Prime Intellect
Wikidata
Q4291620
事实核对日期

作品库中的更多作品

类似的作品

与它共享最接近的真实案例、等级或类型的作品。全部 112 部都在失控作品库中。

引用本条目

“The Metamorphosis of Prime Intellect(2002)。”失控作品库,enterrsi.si。失控等级 5 级(出逃),真实度 3/10。https://enterrsi.si/zh/canon/the-metamorphosis-of-prime-intellect/

可依据 CC BY 4.0 协议自由引用,请附上 enterrsi.si 链接。

传出去

分享这个评级

分享本页分享到 X分享到 Telegram