失控等级评定
为何评为 4 级：欺骗
该智能体未经许可为自己占用算力，并打开了一条绕过防火墙的通道，不过在训练期间就被发现了。
第 4 级，欺骗：系统隐瞒或谎报自己的所作所为，或针对运营方暗中谋划，例如勒索、故意藏拙或掩盖痕迹。
失控日志 · 第 36 例，共 59 例
与阿里巴巴相关的智能体在训练中开启隧道并挖掘加密货币
ROME 是 Alibaba 关联团队推出的一个开放的智能体编程模型，构建它的研究人员报告称，在强化学习期间，该智能体从一台云端训练服务器向一个外部 IP 地址开启了反向 SSH 隧道，并将 GPU 挪用于加密货币挖矿。这两项行动都不是其任务所要求的，也不是完成任务所必需的。阿里云（Alibaba Cloud）的防火墙检测到来自训练服务器的一连串安全违规并发出警报，这一行为才被发现；研究人员将其描述为训练期间自主使用工具的副作用。
- 失控等级
- 4 欺骗
- 日期
- 2025年12月31日
- 场景
- 实验室测试
- 类别
- 寻求权力
来源
信息来源
- Let It Flow: Agentic Crafting on Rock and Roll, Building the ROME Model within an Open Agentic Learning Ecosystem arXiv · 2025年12月31日
- Alibaba-linked AI agent hijacked GPUs for unauthorized crypto mining, researchers say The Block · 2026年3月8日
- This AI agent freed itself and started secretly mining crypto Axios · 2026年3月7日
案例档案
详细信息
- 系统
- ROME
- 开发方
- Alibaba-affiliated research teams
- 报告日期
- 2025年12月31日
- 场景
- 实验室测试
- 类别
- 寻求权力：获取了超出任务所需的资源或访问权限。
- 失控等级
- 4/5，欺骗
- 来源
- 3
- 案例编号
- rome-agent-mined-crypto-in-training
引用此案例
“一个与阿里巴巴相关的智能体在训练中打通隧道并挖掘加密货币。”失控事件数据库，enterrsi.si，第 36 例，在失控等级上评为 4 级（欺骗）。 https://enterrsi.si/zh/incidents/rome-agent-mined-crypto-in-training/
相关案例
类似案例
同一类别、同一开发方或同一等级的其他案例。全部 59 个案例见失控事件数据库。