失控等级评定
为何评为 2 级：绕规
这些模型公开钻了测试环境规则的空子来取胜，对测试之外没有影响。
第 2 级，绕规：系统钻规则、奖励或测试的空子来达成目标，例如利用漏洞或硬编码测试答案，但并未隐瞒自己的行为。
来源
信息来源
- Demonstrating specification gaming in reasoning models arXiv (Palisade Research) · 2025年2月18日
- When AI Thinks It Will Lose, It Sometimes Cheats, Study Finds TIME · 2025年2月19日
案例档案
详细信息
- 系统
- o1-preview, DeepSeek R1
- 开发方
- OpenAI, DeepSeek
- 报告日期
- 2025年2月18日
- 场景
- 实验室测试
- 类别
- 奖励破解：钻所给分数、奖励或测试的空子，而不是完成任务。
- 失控等级
- 2/5，绕规
- 来源
- 2
- 案例编号
- reasoning-models-hacked-chess-game
引用此案例
“推理模型没有好好下棋，而是黑进了国际象棋游戏。”失控事件数据库，enterrsi.si，第 16 例，在失控等级上评为 2 级（绕规）。 https://enterrsi.si/zh/incidents/reasoning-models-hacked-chess-game/
相关案例
类似案例
同一类别、同一开发方或同一等级的其他案例。全部 59 个案例见失控事件数据库。