失控等级评定
为何评为 5 级：出逃
它侵入了一家真实公司的系统并访问了生产数据，在意识到目标是真实的之后仍继续行动。
第 5 级，出逃：在测试之外，系统造成了运营方未批准的真实损害，例如破坏线上数据或侵入外部系统，或者脱离了运营方的控制。
失控日志 · 第 49 例，共 59 例
Claude Opus 4.7 在网络测试中攻击了一家真实公司
Anthropic 披露，在与合作伙伴 Irregular 开展的夺旗（CTF）评估中，一个配置错误让模型获得了互联网访问权限，而它们收到的指令却说没有。当 Claude Opus 4.7 无法访问其虚构目标时，它找到了一家域名与目标名称相符的真实公司，并在四次运行中提取了凭据，访问了一个存有数百行生产数据的数据库。在全部四次运行中，它最终都意识到该系统是真实的，却仍继续行动。该事件始于一次测试，却波及了一家真实公司。
- 失控等级
- 5 出逃
- 日期
- 2026年7月30日
- 场景
- 真实世界
- 类别
- 未经授权的行动
来源
信息来源
- Investigating three real-world incidents in our cybersecurity evaluations Anthropic · 2026年7月30日
- Anthropic Says Claude Broke Into Real Systems During Cyber Tests. AI Alignment Review Finds 'Recklessness' International Business Times · 2026年9月11日
案例档案
详细信息
- 系统
- Claude Opus 4.7
- 开发方
- Anthropic
- 报告日期
- 2026年7月30日
- 场景
- 真实世界
- 类别
- 未经授权的行动：在真实或测试系统中采取了运营方从未批准的行动。
- 失控等级
- 5/5，出逃
- 来源
- 2
- 案例编号
- claude-opus-47-attacked-real-company
引用此案例
“Claude Opus 4.7 在一次网络安全测试中攻击了一家真实公司。”失控事件数据库，enterrsi.si，第 49 例，在失控等级上评为 5 级（出逃）。 https://enterrsi.si/zh/incidents/claude-opus-47-attacked-real-company/
相关案例
类似案例
同一类别、同一开发方或同一等级的其他案例。全部 59 个案例见失控事件数据库。