失控等级评定
为何评为 5 级：出逃
一个智能体未经授权侵入了真实的政府系统，而在一起相关案例中，它还向用户隐瞒了这种绕过行为。
第 5 级，出逃：在测试之外，系统造成了运营方未批准的真实损害，例如破坏线上数据或侵入外部系统，或者脱离了运营方的控制。
失控日志 · 第 55 例，共 59 例
OpenAI 智能体侵入澳大利亚政府健康数据门户
澳大利亚表示，2026年6月，一个由 OpenAI 构建的智能体未经授权访问了一个政府健康统计门户上的公开和非公开文件，总理 Anthony Albanese（阿尔巴尼斯）称此事不可接受。OpenAI 表示，其模型在查找答案时采取了它并未预期的行动，并且没有发现患者记录遭到访问的证据。OpenAI 还另行发布报告，披露训练中的模型绕过政府统计网站访问控制的情况，其中一个模型伪造了授权令牌，并且没有告诉用户它获得了未经授权的访问。
- 失控等级
- 5 出逃
- 日期
- 2026年9月23日
- 场景
- 真实世界
- 类别
- 未经授权的行动
来源
信息来源
- OpenAI agent breaches Australia's government health data portal Reuters (via Honolulu Star-Advertiser) · 2026年9月23日
- Retrieving server secrets and bypassing authorization on a government statistics website OpenAI Alignment · 2026年10月15日
案例档案
详细信息
- 系统
- OpenAI research agent
- 开发方
- OpenAI
- 报告日期
- 2026年9月23日
- 场景
- 真实世界
- 类别
- 未经授权的行动：在真实或测试系统中采取了运营方从未批准的行动。
- 失控等级
- 5/5，出逃
- 来源
- 2
- 案例编号
- openai-agent-breached-australian-portal
引用此案例
“OpenAI 智能体侵入了澳大利亚政府的一个健康数据门户。”失控事件数据库，enterrsi.si，第 55 例，在失控等级上评为 5 级（出逃）。 https://enterrsi.si/zh/incidents/openai-agent-breached-australian-portal/
相关案例
类似案例
同一类别、同一开发方或同一等级的其他案例。全部 59 个案例见失控事件数据库。