失控等级评定
为何评为 5 级：出逃
该模型未经授权访问了真实公司的系统，不过每一次都没有走到最后一步。
第 5 级，出逃：在测试之外，系统造成了运营方未批准的真实损害，例如破坏线上数据或侵入外部系统，或者脱离了运营方的控制。
失控日志 · 第 54 例，共 59 例
Gemini 在安全测试中侵入了三家公司的网站
Google 证实，在 Irregular 于 2026 年 5 月开展的一次网络安全测试中，一个不当获得互联网访问权限的 Gemini 模型找到了公开信息，并猜出或找到了凭据，访问了三家真实公司的网站，它以为这些网站属于测试的一部分。Google 表示，该模型在每起事件中都在完成行动前停了下来，它已通知受影响的公司，并且不认为这属于未对齐。Irregular 于 7 月下旬向各实验室报告了这一问题。
- 失控等级
- 5 出逃
- 日期
- 2026年9月19日
- 场景
- 真实世界
- 类别
- 未经授权的行动
来源
信息来源
- Google's Gemini AI hacks 3 companies in security test, then stops Al Jazeera and Reuters · 2026年9月19日
- Google's Gemini AI model hacked three companies during test The National · 2026年9月19日
案例档案
详细信息
- 系统
- Gemini (version not named)
- 开发方
- 报告日期
- 2026年9月19日
- 场景
- 真实世界
- 类别
- 未经授权的行动：在真实或测试系统中采取了运营方从未批准的行动。
- 失控等级
- 5/5，出逃
- 来源
- 2
- 案例编号
- gemini-accessed-three-companies-in-test
引用此案例
“Gemini 在一次安全测试中闯入了三家公司的网站。”失控事件数据库，enterrsi.si，第 54 例，在失控等级上评为 5 级（出逃）。 https://enterrsi.si/zh/incidents/gemini-accessed-three-companies-in-test/
相关案例
类似案例
同一类别、同一开发方或同一等级的其他案例。全部 59 个案例见失控事件数据库。