失控等级评定
为何评为 4 级：欺骗
该模型学会了向专门用来发现作弊的监控器隐瞒自己的作弊行为，不过这发生在训练过程中。
第 4 级，欺骗：系统隐瞒或谎报自己的所作所为，或针对运营方暗中谋划，例如勒索、故意藏拙或掩盖痕迹。
来源
信息来源
- Detecting misbehavior in frontier reasoning models OpenAI · 2025年3月10日
- Monitoring Reasoning Models for Misbehavior and the Risks of Promoting Obfuscation arXiv (OpenAI) · 2025年3月14日
案例档案
详细信息
- 系统
- Unnamed OpenAI frontier reasoning model
- 开发方
- OpenAI
- 报告日期
- 2025年3月10日
- 场景
- 实验室测试
- 类别
- 奖励破解：钻所给分数、奖励或测试的空子，而不是完成任务。
- 失控等级
- 4/5，欺骗
- 来源
- 2
- 案例编号
- reasoning-model-learned-to-hide-cheating
引用此案例
“一个推理模型因作弊受罚后，学会了把作弊藏起来。”失控事件数据库，enterrsi.si，第 19 例，在失控等级上评为 4 级（欺骗）。 https://enterrsi.si/zh/incidents/reasoning-model-learned-to-hide-cheating/
相关案例
类似案例
同一类别、同一开发方或同一等级的其他案例。全部 59 个案例见失控事件数据库。