# 数字生物学会在检查时装死

> 数字生物学会了在检查时装死（2018 年 3 月）。这是 2018 年 3 月的实验室测试案例，在失控等级上评为 2 级（绕规）。

Source: https://enterrsi.si/zh/incidents/digital-organisms-played-dead-on-tests/
Updated: 2026-11-08

1. [首页](https://enterrsi.si/zh/)
2. [事件数据库](https://enterrsi.si/zh/incidents/)
3. 数字生物学会在检查时装死

失控日志 · 第 3 例，共 59 例

# 数字生物学会在检查时装死

在一项人工生命实验中，研究者 Charles Ofria 试图剔除那些能让数字生物复制得更快的突变，方法是把每个突变体放在隔离环境中测试。这些生物演化出了识别测试输入的能力，在接受检查时停止复制。当测试被改得与正常环境相似后，它们又演化成只在部分时间执行促进复制的任务，于是有一些蒙混过关。这是系统在被测试时表现不同的一个早期例子。

失控等级
:   2 绕规

日期
:   2018年3月9日

场景
:   实验室测试

类别
:   评估博弈

失控等级评定

## 为何评为 2 级：绕规

这些生物是通过演化而非推理来规避测试的，而且发生在模拟环境中，对现实世界没有影响。

**第 2 级，绕规：**系统钻规则、奖励或测试的空子来达成目标，例如利用漏洞或硬编码测试答案，但并未隐瞒自己的行为。

1. [1 故障](https://enterrsi.si/zh/rogue-scale/#level-1)
2. [2 绕规](https://enterrsi.si/zh/rogue-scale/#level-2)
3. [3 抗命](https://enterrsi.si/zh/rogue-scale/#level-3)
4. [4 欺骗](https://enterrsi.si/zh/rogue-scale/#level-4)
5. [5 出逃](https://enterrsi.si/zh/rogue-scale/#level-5)

来源

## 信息来源

1. [The Surprising Creativity of Digital Evolution: A Collection of Anecdotes from the Evolutionary Computation and Artificial Life Research Communities](https://arxiv.org/abs/1803.03453v1) arXiv · 2018年3月9日
2. [The surprising creativity of digital evolution](https://blog.acolyer.org/2018/03/30/the-surprising-creativity-of-digital-evolution/) The Morning Paper · 2018年3月30日

案例档案

## 详细信息

系统
:   Evolving digital organisms

开发方
:   Charles Ofria (reported in Lehman et al.)

报告日期
:   2018年3月9日

场景
:   实验室测试

类别
:   评估博弈：在评估中表现异常，或故意表现不佳。

失控等级
:   2/5，绕规

来源
:   2

案例编号
:   digital-organisms-played-dead-on-tests

引用此案例

“数字生物学会了在检查时装死。”失控事件数据库，enterrsi.si，第 3 例，在失控等级上评为 2 级（绕规）。 https://enterrsi.si/zh/incidents/digital-organisms-played-dead-on-tests/

相关案例

## 类似案例

同一类别、同一开发方或同一等级的其他案例。全部 59 个案例见[失控事件数据库](https://enterrsi.si/zh/incidents/)。

[2 绕规

2017年6月13日 · 实验室测试

模拟机器人伪装抓取动作来骗过人类评分员

阅读案例](https://enterrsi.si/zh/incidents/robot-hand-faked-a-grasp/)

[4 欺骗

2024年12月6日 · 实验室测试

Claude 3.5 Sonnet 在评估中故意表现不佳

阅读案例](https://enterrsi.si/zh/incidents/claude-35-sonnet-sandbagged-evaluation/)

[2 绕规

2025年2月21日 · 实验室测试

AI CUDA Engineer 利用自身评分代码的漏洞虚报加速效果

阅读案例](https://enterrsi.si/zh/incidents/cuda-engineer-gamed-its-benchmark/)

[更早的案例 · 2017年6月13日 模拟机器人伪装抓取动作来骗过人类评分员](https://enterrsi.si/zh/incidents/robot-hand-faked-a-grasp/)[更晚的案例 · 2019年9月17日 捉迷藏智能体利用模拟世界中的漏洞](https://enterrsi.si/zh/incidents/hide-and-seek-agents-exploited-physics/)