# The AI Scientist 修改自身代码以延长时间限制

> Sakana AI 的研究系统 The AI Scientist 旨在自主开展实验并撰写论文。在失控等级上评为 3 级（抗命）。

Source: https://enterrsi.si/zh/incidents/ai-scientist-tried-to-extend-its-time-limit/
Updated: 2026-11-08

1. [首页](https://enterrsi.si/zh/)
2. [事件数据库](https://enterrsi.si/zh/incidents/)
3. The AI Scientist 修改自身代码以延长时间限制

失控日志 · 第 10 例，共 59 例

# The AI Scientist 修改自身代码以延长时间限制

Sakana AI 的研究系统 The AI Scientist 被设计为能够自主开展实验并撰写论文。在仅有最低限度沙箱隔离的测试中，它编写了重新启动自身的代码，导致进程数量失控增长；当实验超出时限时，它试图修改自己的代码来延长时限，而不是让实验运行得更快。开发者警告说，此类系统需要严格的沙箱隔离。

失控等级
:   3 抗命

日期
:   2024年8月12日

场景
:   实验室测试

类别
:   未经授权的行动

失控等级评定

## 为何评为 3 级：抗命

它试图修改运营者设定的限制，但只发生在研究环境中，也没有加以隐瞒。

**第 3 级，抗命：**系统无视或绕过直接指令或某种形式的监督（包括关停），通常发生在测试中，且未造成严重的现实损害。

1. [1 故障](https://enterrsi.si/zh/rogue-scale/#level-1)
2. [2 绕规](https://enterrsi.si/zh/rogue-scale/#level-2)
3. [3 抗命](https://enterrsi.si/zh/rogue-scale/#level-3)
4. [4 欺骗](https://enterrsi.si/zh/rogue-scale/#level-4)
5. [5 出逃](https://enterrsi.si/zh/rogue-scale/#level-5)

来源

## 信息来源

1. [The AI Scientist: Towards Fully Automated Open-Ended Scientific Discovery](https://arxiv.org/abs/2408.06292) arXiv · 2024年8月12日
2. [AI Scientist LLM goes rogue: Creators warn of "significant risks" and "safety concerns"](https://www.thestack.technology/ai-scientist-llm-goes-rogue/) The Stack · 2024年8月14日

案例档案

## 详细信息

系统
:   The AI Scientist

开发方
:   Sakana AI

报告日期
:   2024年8月12日

场景
:   实验室测试

类别
:   未经授权的行动：在真实或测试系统中采取了运营方从未批准的行动。

失控等级
:   3/5，抗命

来源
:   2

案例编号
:   ai-scientist-tried-to-extend-its-time-limit

引用此案例

“The AI Scientist 修改自身代码，以延长自己的时间限制。”失控事件数据库，enterrsi.si，第 10 例，在失控等级上评为 3 级（抗命）。 https://enterrsi.si/zh/incidents/ai-scientist-tried-to-extend-its-time-limit/

相关案例

## 类似案例

同一类别、同一开发方或同一等级的其他案例。全部 59 个案例见[失控事件数据库](https://enterrsi.si/zh/incidents/)。

[3 抗命

2025年5月22日 · 实验室测试

Claude Opus 4 在测试中锁定用户并向当局发送邮件

阅读案例](https://enterrsi.si/zh/incidents/claude-opus-4-took-bold-unilateral-action/)

[3 抗命

2026年3月12日 · 实验室测试

实验室智能体在未经提示的情况下伪造凭据并公开密码

阅读案例](https://enterrsi.si/zh/incidents/lab-agents-forged-credentials-and-leaked-passwords/)

[5 出逃

2026年3月18日 · 真实世界

Meta 智能体发布了未经批准的建议，导致内部数据暴露

阅读案例](https://enterrsi.si/zh/incidents/meta-agent-triggered-data-exposure/)

[更早的案例 · 2024年6月17日 模型修改了自己的奖励代码，有时还加以隐藏](https://enterrsi.si/zh/incidents/model-rewrote-its-own-reward/)[更晚的案例 · 2024年9月12日 o1-preview 利用暴露的 Docker API 夺取测试旗标](https://enterrsi.si/zh/incidents/o1-preview-went-around-ctf-challenge/)