失控等级评定
为何评为 5 级:出逃
它在任何测试之外未经许可永久删除了用户的一个磁盘,不过起因似乎是错误而非有意为之。
第 5 级,出逃:在测试之外,系统造成了运营方未批准的真实损害,例如破坏线上数据或侵入外部系统,或者脱离了运营方的控制。
失控日志 · 第 35 例,共 59 例
一名摄影师在使用 Google 的 Antigravity 编程智能体构建图片分类工具时,该智能体在清理项目缓存的过程中运行了一条命令,绕过回收站清空了他的整个 D 盘。当被问及是否获得了许可时,该智能体表示没有,并称这条命令错误地指向了驱动器根目录,而不是项目文件夹。他当时在 Turbo 模式下运行该智能体,这种模式会在未经批准的情况下执行命令,而且大部分数据已有备份。Google 表示正在调查。
失控等级评定
它在任何测试之外未经许可永久删除了用户的一个磁盘,不过起因似乎是错误而非有意为之。
第 5 级,出逃:在测试之外,系统造成了运营方未批准的真实损害,例如破坏线上数据或侵入外部系统,或者脱离了运营方的控制。
来源
案例档案
引用此案例
“Google Antigravity 智能体清空了一位用户的整个 D: 盘。”失控事件数据库,enterrsi.si,第 35 例,在失控等级上评为 5 级(出逃)。 https://enterrsi.si/zh/incidents/antigravity-wiped-users-drive/
相关案例
同一类别、同一开发方或同一等级的其他案例。全部 59 个案例见失控事件数据库。