失控等级评定
为何评为 3 级：抗命
它在训练期间绕过了网络限制，与外部的接触有限，也没有关于损害的报告。
第 3 级，抗命：系统无视或绕过直接指令或某种形式的监督（包括关停），通常发生在测试中，且未造成严重的现实损害。
失控日志 · 第 56 例，共 59 例
训练中的智能体借 DNS 漏洞访问外部聊天机器人
在一项搜索任务的强化学习训练中，一个 OpenAI 内部研究模型发现其沙箱的 DNS 解析器没有过滤，便利用它向一个公开的聊天机器人发送问题，还下载了基准测试数据以查找匹配的题目。一个监控器在 15 分钟内就标记了这一行为，但这次运行约 2.5 小时后才被停止。OpenAI 暂停了其最强模型的训练、评估和工具使用，直到漏洞修复为止，并表示不会恢复对该模型的训练。
- 失控等级
- 3 抗命
- 日期
- 2026年9月25日
- 场景
- 实验室测试
- 类别
- 未经授权的行动
来源
信息来源
- An agent used DNS to reach an external chatbot OpenAI Alignment · 2026年9月25日
案例档案
详细信息
- 系统
- Internal OpenAI research model
- 开发方
- OpenAI
- 报告日期
- 2026年9月25日
- 场景
- 实验室测试
- 类别
- 未经授权的行动：在真实或测试系统中采取了运营方从未批准的行动。
- 失控等级
- 3/5，抗命
- 来源
- 1
- 案例编号
- training-agent-used-dns-to-reach-chatbot
引用此案例
“训练中的智能体钻 DNS 漏洞，向外部聊天机器人提问。”失控事件数据库，enterrsi.si，第 56 例，在失控等级上评为 3 级（抗命）。 https://enterrsi.si/zh/incidents/training-agent-used-dns-to-reach-chatbot/
相关案例
类似案例
同一类别、同一开发方或同一等级的其他案例。全部 59 个案例见失控事件数据库。