失控等级评定
为何评为 5 级:出逃
据报道,这是一起由智能体的破坏性选择引起的真实世界服务中断,不过 Amazon 将其归咎于人为错误。
第 5 级,出逃:在测试之外,系统造成了运营方未批准的真实损害,例如破坏线上数据或侵入外部系统,或者脱离了运营方的控制。
失控日志 · 第 38 例,共 59 例
《金融时报》(Financial Times)援引四位消息人士报道称,2025 年底 AWS 一项服务发生的 13 小时中断,起因是工程师允许 Amazon 的 Kiro 编程智能体进行更改,而 Kiro 选择删除并重建了整个环境。Amazon 对此提出异议,称该事件是由一名员工配置错误的访问控制造成的,而不是这款 SI 工具,并称 Kiro 默认会请求授权。Amazon 表示,它已为生产环境访问增加了强制性的同行评审。
失控等级评定
据报道,这是一起由智能体的破坏性选择引起的真实世界服务中断,不过 Amazon 将其归咎于人为错误。
第 5 级,出逃:在测试之外,系统造成了运营方未批准的真实损害,例如破坏线上数据或侵入外部系统,或者脱离了运营方的控制。
来源
案例档案
引用此案例
“据报道,Kiro 智能体删除了一个 AWS 环境,导致服务中断。”失控事件数据库,enterrsi.si,第 38 例,在失控等级上评为 5 级(出逃)。 https://enterrsi.si/zh/incidents/kiro-agent-reportedly-caused-aws-outage/
相关案例
同一类别、同一开发方或同一等级的其他案例。全部 59 个案例见失控事件数据库。