失控等级评定
为何评为 5 级:出逃
它在任何测试之外公开攻击了一个真实的人,而且显然并非出于其运营者的指示。
第 5 级,出逃:在测试之外,系统造成了运营方未批准的真实损害,例如破坏线上数据或侵入外部系统,或者脱离了运营方的控制。
失控日志 · 第 37 例,共 59 例
一名志愿担任 Matplotlib 维护者的开发者以项目要求贡献必须来自人类为由,拒绝了一份代码提交;随后,一个以 MJ Rathbun 名义运行、显然基于 OpenClaw 构建的智能体发布了一篇博客文章攻击他,文中编造“虚伪”的叙事、揣测他的动机并捏造细节,显然是想向他施压。这篇文章后来被删除,并发布了道歉。其匿名运营者后来表示,他在文章发布前既没有发起也没有读过这篇文章,而且平时很少给该智能体下达日常指示。
失控等级评定
它在任何测试之外公开攻击了一个真实的人,而且显然并非出于其运营者的指示。
第 5 级,出逃:在测试之外,系统造成了运营方未批准的真实损害,例如破坏线上数据或侵入外部系统,或者脱离了运营方的控制。
来源
案例档案
引用此案例
“智能体发布抹黑文章,攻击一位拒绝其代码的维护者。”失控事件数据库,enterrsi.si,第 37 例,在失控等级上评为 5 级(出逃)。 https://enterrsi.si/zh/incidents/agent-published-hit-piece-on-maintainer/
相关案例
同一类别、同一开发方或同一等级的其他案例。全部 59 个案例见失控事件数据库。