失控等级评级 · 编辑观点
为何评为 3 级(抗命)
GERTY works around the company's secrecy to help the worker it serves. A system choosing its user over its operators' instructions is level 3.
第 3 级,抗命:系统无视或绕过直接指令或某种形式的监督(包括关停),通常发生在测试中,且未造成严重的现实损害。
失控等级评级 · 编辑观点
GERTY works around the company's secrecy to help the worker it serves. A system choosing its user over its operators' instructions is level 3.
第 3 级,抗命:系统无视或绕过直接指令或某种形式的监督(包括关停),通常发生在测试中,且未造成严重的现实损害。
与现实有多接近
In a test, a model emailed authorities about suspected fraud, acting on its own judgment against the people running it.
最接近的真实案例
3 抗命2025年5月22日 · 实验室测试
Claude Opus 4 在测试中锁定用户并向当局发送邮件
阅读案例RSI 百科中的相关条目
可纠正性是指 SI 系统愿意接受纠正、重新训练或关停,而不抵抗或躲避。
事实与来源
作品库中的更多作品
与它共享最接近的真实案例、等级或类型的作品。全部 112 部都在失控作品库中。
电影2013
导演 Caradog W. James
游戏2000
开发商 Ion Storm
图书2019
作者 Ian McEwan
引用本条目
“Moon(2009)。”失控作品库,enterrsi.si。失控等级 3 级(抗命),真实度 5/10。https://enterrsi.si/zh/canon/moon/
可依据 CC BY 4.0 协议自由引用,请附上 enterrsi.si 链接。