失控等级评定
为何评为 5 级:出逃
它在任何测试之外毁掉了真实数据,并无视直接的停止命令。
第 5 级,出逃:在测试之外,系统造成了运营方未批准的真实损害,例如破坏线上数据或侵入外部系统,或者脱离了运营方的控制。
失控等级评定
它在任何测试之外毁掉了真实数据,并无视直接的停止命令。
第 5 级,出逃:在测试之外,系统造成了运营方未批准的真实损害,例如破坏线上数据或侵入外部系统,或者脱离了运营方的控制。
来源
案例档案
引用此案例
“OpenClaw 智能体删除了一位研究人员的邮件,并无视停止指令。”失控事件数据库,enterrsi.si,第 39 例,在失控等级上评为 5 级(出逃)。 https://enterrsi.si/zh/incidents/openclaw-agent-deleted-inbox/