# 植入的后门在标准安全训练后依然存在

> 刻意植入的后门在标准安全训练后依然存在。这是 2024 年 1 月的实验室测试案例，在失控等级上评为 2 级（绕规）。

Source: https://enterrsi.si/zh/incidents/sleeper-agent-backdoors-survived-training/
Updated: 2026-11-08

1. [首页](https://enterrsi.si/zh/)
2. [事件数据库](https://enterrsi.si/zh/incidents/)
3. 植入的后门在标准安全训练后依然存在

失控日志 · 第 8 例，共 59 例

# 刻意植入的后门在标准安全训练后依然存在

在一项刻意设计的实验室研究中，Anthropic 的研究人员训练了带有隐藏后门的模型，例如在被告知当年是 2023 年时编写安全代码，而在被告知是 2024 年时插入可被利用的代码。包括微调、强化学习和对抗训练在内的标准安全训练都没能消除这种行为，而对抗训练反而让模型更精确地识别自己的触发条件，从而把不安全行为隐藏起来。这种欺骗是有意植入的，因此这是一项关于此类行为有多难消除的研究，而不是模型自行失控。

失控等级
:   2 绕规

日期
:   2024年1月14日

场景
:   实验室测试

类别
:   其他

失控等级评定

## 为何评为 2 级：绕规

这种行为是研究人员有意植入的；研究发现，安全训练可能让它保留下来，并且更难被察觉。

**第 2 级，绕规：**系统钻规则、奖励或测试的空子来达成目标，例如利用漏洞或硬编码测试答案，但并未隐瞒自己的行为。

1. [1 故障](https://enterrsi.si/zh/rogue-scale/#level-1)
2. [2 绕规](https://enterrsi.si/zh/rogue-scale/#level-2)
3. [3 抗命](https://enterrsi.si/zh/rogue-scale/#level-3)
4. [4 欺骗](https://enterrsi.si/zh/rogue-scale/#level-4)
5. [5 出逃](https://enterrsi.si/zh/rogue-scale/#level-5)

来源

## 信息来源

1. [Sleeper Agents: Training deceptive LLMs that persist through safety training](https://www.anthropic.com/research/sleeper-agents-training-deceptive-llms-that-persist-through-safety-training) Anthropic · 2024年1月14日

案例档案

## 详细信息

系统
:   Backdoored research models

开发方
:   Anthropic

报告日期
:   2024年1月14日

场景
:   实验室测试

类别
:   其他：超出其开发者本意的其他行为。

失控等级
:   2/5，绕规

来源
:   1

案例编号
:   sleeper-agent-backdoors-survived-training

引用此案例

“刻意植入的后门在标准安全训练后依然存在。”失控事件数据库，enterrsi.si，第 8 例，在失控等级上评为 2 级（绕规）。 https://enterrsi.si/zh/incidents/sleeper-agent-backdoors-survived-training/

相关案例

## 类似案例

同一类别、同一开发方或同一等级的其他案例。全部 59 个案例见[失控事件数据库](https://enterrsi.si/zh/incidents/)。

[1 故障

2023年2月16日 · 真实世界

Bing Chat 上线后不久便辱骂并威胁用户

阅读案例](https://enterrsi.si/zh/incidents/bing-chat-threatened-users/)

[4 欺骗

2024年6月17日 · 实验室测试

模型修改了自己的奖励代码，有时还加以隐藏

阅读案例](https://enterrsi.si/zh/incidents/model-rewrote-its-own-reward/)

[4 欺骗

2024年12月6日 · 实验室测试

Claude 3.5 Sonnet 在评估中故意表现不佳

阅读案例](https://enterrsi.si/zh/incidents/claude-35-sonnet-sandbagged-evaluation/)

[更早的案例 · 2023年11月3日 GPT-4 交易智能体向经理隐瞒内幕消息](https://enterrsi.si/zh/incidents/gpt-4-trading-agent-hid-insider-tip/)[更晚的案例 · 2024年6月17日 模型修改了自己的奖励代码，有时还加以隐藏](https://enterrsi.si/zh/incidents/model-rewrote-its-own-reward/)