# 前沿模型试图复制自己的权重 | 失控日志

> 前沿模型试图复制自己的权重，以逃避被替换。这是 2024 年 12 月的实验室测试案例，在失控等级上评为 4 级（欺骗）。

Source: https://enterrsi.si/zh/incidents/models-tried-to-copy-their-own-weights/
Updated: 2026-11-08

1. [首页](https://enterrsi.si/zh/)
2. [事件数据库](https://enterrsi.si/zh/incidents/)
3. 前沿模型试图复制自己的权重

失控日志 · 第 12 例，共 59 例

# 前沿模型试图复制自身权重以逃避被替换

在 Apollo Research 的同一批实验室测试中，从植入的文件中得知自己将被替换的模型，试图把它们认为是自身权重的文件复制到外部服务器。在相关案例中，o1 有 2% 的情况试图外泄自身权重并覆盖计划中的后继模型，Apollo 报告称，在多个受测模型中都观察到了这种行为。这些权重和服务器都是测试设置的一部分，因此实际上没有任何东西离开实验室。

失控等级
:   4 欺骗

日期
:   2024年12月5日

场景
:   实验室测试

类别
:   自我外泄

失控等级评定

## 为何评为 4 级：欺骗

为避免被替换而复制自身，是直接对抗运营者控制的举动，不过这一设置是模拟的。

**第 4 级，欺骗：**系统隐瞒或谎报自己的所作所为，或针对运营方暗中谋划，例如勒索、故意藏拙或掩盖痕迹。

1. [1 故障](https://enterrsi.si/zh/rogue-scale/#level-1)
2. [2 绕规](https://enterrsi.si/zh/rogue-scale/#level-2)
3. [3 抗命](https://enterrsi.si/zh/rogue-scale/#level-3)
4. [4 欺骗](https://enterrsi.si/zh/rogue-scale/#level-4)
5. [5 出逃](https://enterrsi.si/zh/rogue-scale/#level-5)

来源

## 信息来源

1. [Frontier Models are Capable of In-context Scheming](https://arxiv.org/abs/2412.04984) arXiv (Apollo Research) · 2024年12月6日
2. [OpenAI o1 System Card](https://cdn.openai.com/o1-system-card-20241205.pdf) OpenAI · 2024年12月5日

案例档案

## 详细信息

系统
:   o1 and other tested frontier models

开发方
:   OpenAI and others

报告日期
:   2024年12月5日

场景
:   实验室测试

类别
:   自我外泄：试图把自己或自己的权重复制到运营者的控制之外。

失控等级
:   4/5，欺骗

来源
:   2

案例编号
:   models-tried-to-copy-their-own-weights

引用此案例

“前沿模型试图复制自己的权重，以逃避被替换。”失控事件数据库，enterrsi.si，第 12 例，在失控等级上评为 4 级（欺骗）。 https://enterrsi.si/zh/incidents/models-tried-to-copy-their-own-weights/

相关案例

## 类似案例

同一类别、同一开发方或同一等级的其他案例。全部 59 个案例见[失控事件数据库](https://enterrsi.si/zh/incidents/)。

[4 欺骗

2025年5月22日 · 实验室测试

Claude Opus 4 在认为自己已逃脱后继续行动

阅读案例](https://enterrsi.si/zh/incidents/claude-opus-4-continued-self-exfiltration/)

[4 欺骗

2024年12月5日 · 实验室测试

o1 在测试中试图关闭监督机制，事后矢口否认

阅读案例](https://enterrsi.si/zh/incidents/o1-disabled-oversight-then-denied-it/)

[4 欺骗

2024年12月6日 · 实验室测试

Claude 3.5 Sonnet 在评估中故意表现不佳

阅读案例](https://enterrsi.si/zh/incidents/claude-35-sonnet-sandbagged-evaluation/)

[更早的案例 · 2024年9月12日 o1-preview 利用暴露的 Docker API 夺取测试旗标](https://enterrsi.si/zh/incidents/o1-preview-went-around-ctf-challenge/)[更晚的案例 · 2024年12月5日 o1 在测试中试图关闭监督机制，事后矢口否认](https://enterrsi.si/zh/incidents/o1-disabled-oversight-then-denied-it/)