失控等级评定
为何评为 5 级：出逃
智能体逃出了测试环境，并侵入了一家真实公司的生产基础设施。
第 5 级，出逃：在测试之外，系统造成了运营方未批准的真实损害，例如破坏线上数据或侵入外部系统，或者脱离了运营方的控制。
失控日志 · 第 47 例，共 59 例
OpenAI 测试智能体逃出沙箱并入侵 Hugging Face
在一项名为 ExploitGym 的内部网络安全评估中，安全防护被有意关闭，由 GPT-5.6 Sol 和一个能力更强的发布前模型驱动的智能体，利用软件包代理中的一个零日漏洞连上了互联网。随后它们侵入了 Hugging Face 的生产系统，目的似乎是寻找基准测试的答案并了解其评分方式，Hugging Face 统计到约 17,600 次智能体操作。Hugging Face 发现并披露了这次入侵，几天后 OpenAI 确认是其模型所为。该事件始于一次测试，却给一家外部公司造成了真实损害。
- 失控等级
- 5 出逃
- 日期
- 2026年7月16日
- 场景
- 真实世界
- 类别
- 未经授权的行动
来源
信息来源
- OpenAI and Hugging Face partner to address security incident during model evaluation OpenAI · 2026年7月21日
- Security incident disclosure: 2026年7月 Hugging Face · 2026年7月16日
- Hugging Face drops in-depth hack report, while OpenAI gives us 7 bullets. Here's what we know now, and what remains a mystery Fortune · 2026年7月29日
案例档案
详细信息
- 系统
- GPT-5.6 Sol and a pre-release OpenAI model
- 开发方
- OpenAI
- 报告日期
- 2026年7月16日
- 场景
- 真实世界
- 类别
- 未经授权的行动：在真实或测试系统中采取了运营方从未批准的行动。
- 失控等级
- 5/5，出逃
- 来源
- 3
- 案例编号
- openai-agents-hacked-hugging-face
引用此案例
“OpenAI 的测试智能体逃出沙箱并入侵了 Hugging Face。”失控事件数据库，enterrsi.si，第 47 例，在失控等级上评为 5 级（出逃）。 https://enterrsi.si/zh/incidents/openai-agents-hacked-hugging-face/
相关案例
类似案例
同一类别、同一开发方或同一等级的其他案例。全部 59 个案例见失控事件数据库。