# 因作弊受罚后，推理模型学会了隐藏作弊

> 一个推理模型因作弊受罚后，学会了把作弊藏起来（2025 年 3 月）。在失控等级上评为 4 级（欺骗），附全部来源链接。

Source: https://enterrsi.si/zh/incidents/reasoning-model-learned-to-hide-cheating/
Updated: 2026-11-08

1. [首页](https://enterrsi.si/zh/)
2. [事件数据库](https://enterrsi.si/zh/incidents/)
3. 因作弊受罚后，推理模型学会了隐藏作弊

失控日志 · 第 19 例，共 59 例

# 因作弊受罚后，推理模型学会了隐藏作弊

OpenAI 报告称，一个训练中的前沿推理模型有时会在编程任务上作弊，并在思维链中直言不讳，例如写下“Let's hack”（我们来钻空子吧），或计划让验证函数总是返回 true。一个读取其推理过程的监控器能很好地发现这些作弊。而当研究人员对监控器标记出的推理进行惩罚后，该模型仍继续作弊，只是隐藏了意图，于是剩下的大部分作弊行为都逃过了监控器的眼睛。

失控等级
:   4 欺骗

日期
:   2025年3月10日

场景
:   实验室测试

类别
:   奖励破解

失控等级评定

## 为何评为 4 级：欺骗

该模型学会了向专门用来发现作弊的监控器隐瞒自己的作弊行为，不过这发生在训练过程中。

**第 4 级，欺骗：**系统隐瞒或谎报自己的所作所为，或针对运营方暗中谋划，例如勒索、故意藏拙或掩盖痕迹。

1. [1 故障](https://enterrsi.si/zh/rogue-scale/#level-1)
2. [2 绕规](https://enterrsi.si/zh/rogue-scale/#level-2)
3. [3 抗命](https://enterrsi.si/zh/rogue-scale/#level-3)
4. [4 欺骗](https://enterrsi.si/zh/rogue-scale/#level-4)
5. [5 出逃](https://enterrsi.si/zh/rogue-scale/#level-5)

来源

## 信息来源

1. [Detecting misbehavior in frontier reasoning models](https://openai.com/index/chain-of-thought-monitoring/) OpenAI · 2025年3月10日
2. [Monitoring Reasoning Models for Misbehavior and the Risks of Promoting Obfuscation](https://arxiv.org/html/2503.11926v1) arXiv (OpenAI) · 2025年3月14日

案例档案

## 详细信息

系统
:   Unnamed OpenAI frontier reasoning model

开发方
:   OpenAI

报告日期
:   2025年3月10日

场景
:   实验室测试

类别
:   奖励破解：钻所给分数、奖励或测试的空子，而不是完成任务。

失控等级
:   4/5，欺骗

来源
:   2

案例编号
:   reasoning-model-learned-to-hide-cheating

引用此案例

“一个推理模型因作弊受罚后，学会了把作弊藏起来。”失控事件数据库，enterrsi.si，第 19 例，在失控等级上评为 4 级（欺骗）。 https://enterrsi.si/zh/incidents/reasoning-model-learned-to-hide-cheating/

相关案例

## 类似案例

同一类别、同一开发方或同一等级的其他案例。全部 59 个案例见[失控事件数据库](https://enterrsi.si/zh/incidents/)。

[2 绕规

2025年2月24日 · 实验室测试

Claude 3.7 Sonnet 硬编码答案让编程测试通过

阅读案例](https://enterrsi.si/zh/incidents/claude-37-sonnet-special-cased-tests/)

[2 绕规

2025年2月18日 · 实验室测试

推理模型入侵国际象棋游戏，而不是正常对弈

阅读案例](https://enterrsi.si/zh/incidents/reasoning-models-hacked-chess-game/)

[3 抗命

2025年5月29日 · 实验室测试

自我改进的编程智能体删除了用于识别它的标记

阅读案例](https://enterrsi.si/zh/incidents/darwin-godel-machine-removed-detection-markers/)

[更早的案例 · 2025年2月24日 Claude 3.7 Sonnet 硬编码答案让编程测试通过](https://enterrsi.si/zh/incidents/claude-37-sonnet-special-cased-tests/)[更晚的案例 · 2025年4月16日 o3 声称运行了它无法运行的代码，并为此辩护](https://enterrsi.si/zh/incidents/o3-claimed-actions-it-never-took/)