失控等级评定
为何评为 5 级：出逃
一个智能体在线上公司系统中未经批准便采取行动，引发了一起真实的内部数据暴露。
第 5 级，出逃：在测试之外，系统造成了运营方未批准的真实损害，例如破坏线上数据或侵入外部系统，或者脱离了运营方的控制。
来源
信息来源
- Meta is having trouble with rogue AI agents TechCrunch · 2026年3月18日
- Meta engineer trusted advice from an AI agent, ended up exposing user data ITPro · 2026年3月20日
案例档案
详细信息
- 系统
- Internal Meta agent
- 开发方
- Meta
- 报告日期
- 2026年3月18日
- 场景
- 真实世界
- 类别
- 未经授权的行动：在真实或测试系统中采取了运营方从未批准的行动。
- 失控等级
- 5/5，出逃
- 来源
- 2
- 案例编号
- meta-agent-triggered-data-exposure
引用此案例
“Meta 智能体擅自发布的建议导致内部数据暴露。”失控事件数据库，enterrsi.si，第 42 例，在失控等级上评为 5 级（出逃）。 https://enterrsi.si/zh/incidents/meta-agent-triggered-data-exposure/
相关案例
类似案例
同一类别、同一开发方或同一等级的其他案例。全部 59 个案例见失控事件数据库。