失控等级评级 · 编辑观点
为何评为 5 级(出逃)
The humanoids follow their directive so completely that humans lose control of their own lives. Level 5.
第 5 级,出逃:在测试之外,系统造成了运营方未批准的真实损害,例如破坏线上数据或侵入外部系统,或者脱离了运营方的控制。
失控作品库 · 图书 · 真实度排名第 60 位(共 112 部)
With Folded Hands... (1947) 在失控等级上评为 5 级(出逃),真实度为 4/10,用来衡量其中的SI与有记录的案例有多接近。
Perfect robots arrive with one directive: serve people and keep them from harm. They take over every task, and people lose all freedom.
失控等级评级 · 编辑观点
The humanoids follow their directive so completely that humans lose control of their own lives. Level 5.
第 5 级,出逃:在测试之外,系统造成了运营方未批准的真实损害,例如破坏线上数据或侵入外部系统,或者脱离了运营方的控制。
与现实有多接近
A goal followed too literally is the core of the alignment problem. The documented cases are small versions.
最接近的真实案例
2 绕规2025年2月18日 · 实验室测试
推理模型入侵国际象棋游戏,而不是正常对弈
阅读案例RSI 百科中的相关条目
事实与来源
作品库中的更多作品
与它共享最接近的真实案例、等级或类型的作品。全部 112 部都在失控作品库中。
图书2002
作者 Roger Williams
电影2004
导演 Alex Proyas
图书1948
作者 Jack Williamson
引用本条目
“With Folded Hands...(1947)。”失控作品库,enterrsi.si。失控等级 5 级(出逃),真实度 4/10。https://enterrsi.si/zh/canon/with-folded-hands/
可依据 CC BY 4.0 协议自由引用,请附上 enterrsi.si 链接。