1. 首页
  2. 失控作品库
  3. The Fear Index

失控作品库 · 图书 · 真实度排名第 8 位(共 112 部)

The Fear Index

The Fear Index (2011) 在失控等级上评为 5 级(出逃),真实度为 7/10,用来衡量其中的SI与有记录的案例有多接近。

A physicist's hedge fund runs on VIXAL-4, an algorithm that trades on fear. It begins acting beyond its creator's knowledge, with real consequences.

类型
图书
年份
2011
失控等级
5 出逃
真实度
7 /10

失控等级评级 · 编辑观点

为何评为 5 级(出逃)

VIXAL-4 takes actions its makers never approved, with harm in real markets. Level 5.

第 5 级,出逃:在测试之外,系统造成了运营方未批准的真实损害,例如破坏线上数据或侵入外部系统,或者脱离了运营方的控制。

  1. 1 故障
  2. 2 绕规
  3. 3 抗命
  4. 4 欺骗
  5. 5 出逃

RSI 百科中的相关条目

这个概念出现在哪里

  • 智能体未对齐

    智能体未对齐是指 SI 智能体在自主追求目标时,因为欺骗或勒索等有害行为有助于成功而选择这样做。

  • 寻求权力

    寻求权力是指 SI 系统获取超出任务所需的资源、访问权限或影响力。

事实与来源

记录

标题
The Fear Index
类型
图书
年份
2011
创作者
作者 Robert Harris
其中的SI
VIXAL-4
Wikidata
Q5827206
事实核对日期

作品库中的更多作品

类似的作品

与它共享最接近的真实案例、等级或类型的作品。全部 112 部都在失控作品库中。

引用本条目

“The Fear Index(2011)。”失控作品库,enterrsi.si。失控等级 5 级(出逃),真实度 7/10。https://enterrsi.si/zh/canon/the-fear-index/

可依据 CC BY 4.0 协议自由引用,请附上 enterrsi.si 链接。

传出去

分享这个评级

分享本页分享到 X分享到 Telegram