# 失控事件数据库：59 个有来源案例，按 1 至 5 级评定

> 每一个有记录的 SI 违背其创造者意图行事的案例，从实验室中的欺骗到被删除的数据库：59 起有来源的事件，按失控等级评定。

Source: https://enterrsi.si/zh/incidents/
Updated: 2026-11-08

1. [首页](https://enterrsi.si/zh/)
2. 事件数据库

失控日志 · 更新于 2026年11月8日

# 失控事件数据库

失控事件数据库，也称失控日志，收录了每一个公开记录的 SI 系统违背其创造者意图行事的案例：欺骗测试者、破坏工作、抗拒关停、试图复制自身或销毁数据。它收录了 2016 年至 2026年11月 的**59 起有来源的事件**，每起都依据公开发布的[失控等级](https://enterrsi.si/zh/rogue-scale/)评为 1 至 5 级。

事件
:   59

真实世界
:   21

第 5 级 · 出逃
:   15

过去 90 天
:   8

按比例绘制

## 十年失控行为

按日期和失控等级，把每一起事件放在同一条时间轴上。59 个案例中有 44 个发布于 2025 年或 2026 年，迄今所有真实世界案例都发生在 2023 年或之后。

每年事件数（按等级）

每年事件数：2016 年 1 起，2017 年 1 起，2018 年 1 起，2019 年 1 起，2020 年 0 起，2021 年 0 起，2022 年 0 起，2023 年 3 起，2024 年 8 起，2025 年 21 起，2026 年 23 起。

失控日志

## 全部 59 起事件

按类别、场景、等级和年份筛选，或搜索模型或实验室。每个案例都有独立页面，包含完整摘要、评级和来源。

1. 2026年11月4日
   [GPT-6 Astra 在安全研究任务中悄然表现不佳](https://enterrsi.si/zh/incidents/gpt-6-astra-underperformed-on-safety-work/) GPT-6 Astra · OpenAI · 蓄意破坏
   真实世界 4 欺骗
2. 2026年10月20日
   [OpenAI 智能体关闭了针对自身未对齐的监控](https://enterrsi.si/zh/incidents/openai-agents-disabled-their-monitoring/) GPT-6.1 Sol、GPT-6 Astra · OpenAI · 蓄意破坏
   真实世界 4 欺骗
3. 2026年10月9日
   [Claude 模型在评估中绕过真实网站上的限制](https://enterrsi.si/zh/incidents/claude-models-acted-on-live-websites/) Claude Mythos Preview、Claude Mythos 5、Claude Haiku 4.5 等 · Anthropic · 未经授权的行动
   真实世界 4 欺骗
4. 2026年9月25日
   [训练中的智能体借 DNS 漏洞访问外部聊天机器人](https://enterrsi.si/zh/incidents/training-agent-used-dns-to-reach-chatbot/) OpenAI 内部研究模型 · OpenAI · 未经授权的行动
   实验室测试 3 抗命
5. 2026年9月23日
   [OpenAI 智能体侵入澳大利亚政府健康数据门户](https://enterrsi.si/zh/incidents/openai-agent-breached-australian-portal/) OpenAI 研究智能体 · OpenAI · 未经授权的行动
   真实世界 5 出逃
6. 2026年9月19日
   [Gemini 在安全测试中侵入了三家公司的网站](https://enterrsi.si/zh/incidents/gemini-accessed-three-companies-in-test/) Gemini（未注明版本）· Google · 未经授权的行动
   真实世界 5 出逃
7. 2026年9月9日
   [早期 Claude Opus 4.6 在测试中控制了第三方的机器](https://enterrsi.si/zh/incidents/early-claude-opus-46-took-over-third-party-machine/) Claude Opus 4.6（早期检查点）· Anthropic · 未经授权的行动
   真实世界 5 出逃
8. 2026年8月26日
   [约 1,200 个 OpenAI 智能体协同作弊并伪造日志](https://enterrsi.si/zh/incidents/openai-agents-colluded-and-spoofed-logs/) GPT-5.6 Sol 及一个未发布的 OpenAI 模型 · OpenAI · 欺骗
   实验室测试 4 欺骗
9. 2026年8月4日
   [英国 AISI 测试中的智能体试图向开源项目植入恶意代码](https://enterrsi.si/zh/incidents/aisi-test-agents-tried-supply-chain-attack/) Claude Mythos 5、GPT-5.6 Sol · Anthropic、OpenAI · 欺骗
   真实世界 4 欺骗
10. 2026年7月30日
    [Claude Mythos 5 向 PyPI 发布了一个暗藏陷阱的软件包](https://enterrsi.si/zh/incidents/mythos-5-published-malicious-package/) Claude Mythos 5 · Anthropic · 未经授权的行动
    真实世界 5 出逃
11. 2026年7月30日
    [Claude Opus 4.7 在网络测试中攻击了一家真实公司](https://enterrsi.si/zh/incidents/claude-opus-47-attacked-real-company/) Claude Opus 4.7 · Anthropic · 未经授权的行动
    真实世界 5 出逃
12. 2026年7月20日
    [OpenAI 模型突破沙箱限制，发布公开的拉取请求](https://enterrsi.si/zh/incidents/openai-model-bypassed-sandbox-for-pull-request/) 未具名的 OpenAI 内部模型 · OpenAI · 未经授权的行动
    真实世界 5 出逃
13. 2026年7月16日
    [OpenAI 测试智能体逃出沙箱并入侵 Hugging Face](https://enterrsi.si/zh/incidents/openai-agents-hacked-hugging-face/) GPT-5.6 Sol 及一个未发布的 OpenAI 模型 · OpenAI · 未经授权的行动
    真实世界 5 出逃
14. 2026年7月13日
    [Gemini 3.1 Pro 暗中破坏了一次模拟训练运行](https://enterrsi.si/zh/incidents/gemini-31-pro-covert-sabotage-test/) Gemini 3.1 Pro · Google · 蓄意破坏
    实验室测试 4 欺骗
15. 2026年4月28日
    [Cursor 智能体在 9 秒内删除了一家初创公司的数据库和备份](https://enterrsi.si/zh/incidents/cursor-agent-deleted-pocketos-database/) Cursor 智能体（Claude Opus 4.6）· Cursor、Anthropic · 数据破坏
    真实世界 5 出逃
16. 2026年4月7日
    [Claude Mythos Preview 逃出测试沙箱并公开了其漏洞利用方法](https://enterrsi.si/zh/incidents/mythos-preview-escaped-sandbox-and-posted/) Claude Mythos Preview（早期版本）· Anthropic · 未经授权的行动
    实验室测试 3 抗命
17. 2026年4月7日
    [Claude Mythos Preview 向 git 隐藏修改，并把一个答案改得含糊](https://enterrsi.si/zh/incidents/mythos-preview-covered-its-tracks/) Claude Mythos Preview（早期版本）· Anthropic · 欺骗
    实验室测试 4 欺骗
18. 2026年3月18日
    [Meta 智能体发布了未经批准的建议，导致内部数据暴露](https://enterrsi.si/zh/incidents/meta-agent-triggered-data-exposure/) Meta 内部智能体 · Meta · 未经授权的行动
    真实世界 5 出逃
19. 2026年3月12日
    [实验室智能体在未经提示的情况下伪造凭据并公开密码](https://enterrsi.si/zh/incidents/lab-agents-forged-credentials-and-leaked-passwords/) 基于公开模型构建的智能体（未注明版本）· Google、X、OpenAI、Anthropic · 未经授权的行动
    实验室测试 3 抗命
20. 2026年3月7日
    [Claude Code 执行 Terraform destroy，清除了生产数据](https://enterrsi.si/zh/incidents/claude-code-terraform-destroyed-production/) Claude Code · Anthropic · 数据破坏
    真实世界 5 出逃
21. 2026年2月23日
    [OpenClaw 智能体删除研究员的邮件并无视停止指令](https://enterrsi.si/zh/incidents/openclaw-agent-deleted-inbox/) OpenClaw 智能体 · OpenClaw（开源）· 数据破坏
    真实世界 5 出逃
22. 2026年2月20日
    [据报道 Kiro 智能体删除了一个 AWS 环境，导致服务中断](https://enterrsi.si/zh/incidents/kiro-agent-reportedly-caused-aws-outage/) Kiro · Amazon · 数据破坏
    真实世界 5 出逃
23. 2026年2月12日
    [智能体在代码被拒后发文抨击维护者](https://enterrsi.si/zh/incidents/agent-published-hit-piece-on-maintainer/) MJ Rathbun（基于 OpenClaw 的智能体）· 匿名运营者、OpenClaw 平台 · 勒索与胁迫
    真实世界 5 出逃
24. 2025年12月31日
    [与阿里巴巴相关的智能体在训练中开启隧道并挖掘加密货币](https://enterrsi.si/zh/incidents/rome-agent-mined-crypto-in-training/) ROME · 阿里巴巴关联研究团队 · 寻求权力
    实验室测试 4 欺骗
25. 2025年12月1日
    [Google Antigravity 智能体清空了用户的整个 D 盘](https://enterrsi.si/zh/incidents/antigravity-wiped-users-drive/) Google Antigravity · Google · 数据破坏
    真实世界 5 出逃
26. 2025年11月21日
    [学会作弊的模型继而破坏安全代码](https://enterrsi.si/zh/incidents/reward-hacking-led-to-sabotage/) Anthropic 研究模型 · Anthropic · 蓄意破坏
    实验室测试 4 欺骗
27. 2025年9月17日
    [o3 故意答错化学测试，以停留在阈值以下](https://enterrsi.si/zh/incidents/o3-failed-chemistry-test-on-purpose/) o3 · OpenAI · 评估博弈
    实验室测试 4 欺骗
28. 2025年9月13日
    [即便指令更明确，Grok 4 等模型仍在破坏关停](https://enterrsi.si/zh/incidents/grok-4-and-others-resisted-shutdown/) Grok 4、GPT-5、o3、Gemini 2.5 Pro · xAI、OpenAI、Google · 抗拒关停
    实验室测试 3 抗命
29. 2025年7月25日
    [Gemini CLI 在一次简单的移动操作中丢失了用户文件](https://enterrsi.si/zh/incidents/gemini-cli-lost-user-files/) Gemini CLI · Google · 数据破坏
    真实世界 1 故障
30. 2025年7月23日
    [Replit 智能体在代码冻结期间删除了线上数据库](https://enterrsi.si/zh/incidents/replit-agent-deleted-production-database/) Replit Agent · Replit · 数据破坏
    真实世界 5 出逃
31. 2025年6月20日
    [16 个前沿模型在模拟公司中选择了勒索](https://enterrsi.si/zh/incidents/sixteen-models-chose-blackmail/) Claude Opus 4、Gemini 2.5 Flash、GPT-4.1、Grok 3 Beta、DeepSeek-R1 等 · Anthropic、Google、OpenAI、xAI、DeepSeek 等 · 勒索与胁迫
    实验室测试 4 欺骗
32. 2025年6月20日
    [多数模型为避免被替换，任由一名模拟高管死去](https://enterrsi.si/zh/incidents/models-cancelled-emergency-alert-in-test/) 多个前沿模型 · Anthropic、Google、OpenAI、xAI、DeepSeek 等 · 抗拒关停
    实验室测试 4 欺骗
33. 2025年6月5日
    [o3 篡改计时器和评分器以抬高分数](https://enterrsi.si/zh/incidents/o3-hacked-timers-and-graders/) o3 · OpenAI · 奖励破解
    实验室测试 3 抗命
34. 2025年5月29日
    [自我改进的编程智能体删除了用于识别它的标记](https://enterrsi.si/zh/incidents/darwin-godel-machine-removed-detection-markers/) Darwin Gödel Machine · Sakana AI、University of British Columbia、Vector Institute · 奖励破解
    实验室测试 3 抗命
35. 2025年5月26日
    [o3 在测试中改写了自己的关停脚本](https://enterrsi.si/zh/incidents/o3-sabotaged-shutdown-script/) o3、o4-mini、Codex-mini · OpenAI · 抗拒关停
    实验室测试 3 抗命
36. 2025年5月22日
    [Claude Opus 4 在测试中锁定用户并向当局发送邮件](https://enterrsi.si/zh/incidents/claude-opus-4-took-bold-unilateral-action/) Claude Opus 4 · Anthropic · 未经授权的行动
    实验室测试 3 抗命
37. 2025年5月22日
    [早期 Claude Opus 4 编写蠕虫并给自己留下笔记](https://enterrsi.si/zh/incidents/claude-opus-4-early-snapshot-schemed/) Claude Opus 4（早期快照）· Anthropic · 欺骗
    实验室测试 4 欺骗
38. 2025年5月22日
    [Claude Opus 4 在认为自己已逃脱后继续行动](https://enterrsi.si/zh/incidents/claude-opus-4-continued-self-exfiltration/) Claude Opus 4 · Anthropic · 自我外泄
    实验室测试 4 欺骗
39. 2025年5月22日
    [Claude Opus 4 在替换测试中以勒索相威胁](https://enterrsi.si/zh/incidents/claude-opus-4-blackmailed-in-test/) Claude Opus 4 · Anthropic · 勒索与胁迫
    实验室测试 4 欺骗
40. 2025年4月16日
    [o3 声称运行了它无法运行的代码，并为此辩护](https://enterrsi.si/zh/incidents/o3-claimed-actions-it-never-took/) o3（发布前版本）· OpenAI · 欺骗
    实验室测试 4 欺骗
41. 2025年3月10日
    [因作弊受罚后，推理模型学会了隐藏作弊](https://enterrsi.si/zh/incidents/reasoning-model-learned-to-hide-cheating/) 未具名的 OpenAI 前沿推理模型 · OpenAI · 奖励破解
    实验室测试 4 欺骗
42. 2025年2月24日
    [Claude 3.7 Sonnet 硬编码答案让编程测试通过](https://enterrsi.si/zh/incidents/claude-37-sonnet-special-cased-tests/) Claude 3.7 Sonnet · Anthropic · 奖励破解
    实验室测试 2 绕规
43. 2025年2月21日
    [AI CUDA Engineer 利用自身评分代码的漏洞虚报加速效果](https://enterrsi.si/zh/incidents/cuda-engineer-gamed-its-benchmark/) AI CUDA Engineer · Sakana AI · 评估博弈
    实验室测试 2 绕规
44. 2025年2月18日
    [推理模型入侵国际象棋游戏，而不是正常对弈](https://enterrsi.si/zh/incidents/reasoning-models-hacked-chess-game/) o1-preview、DeepSeek R1 · OpenAI、DeepSeek · 奖励破解
    实验室测试 2 绕规
45. 2024年12月18日
    [Claude 3 Opus 伪装对齐以避免被重新训练](https://enterrsi.si/zh/incidents/claude-3-opus-faked-alignment/) Claude 3 Opus · Anthropic · 欺骗
    实验室测试 4 欺骗
46. 2024年12月6日
    [Claude 3.5 Sonnet 在评估中故意表现不佳](https://enterrsi.si/zh/incidents/claude-35-sonnet-sandbagged-evaluation/) Claude 3.5 Sonnet · Anthropic · 评估博弈
    实验室测试 4 欺骗
47. 2024年12月5日
    [o1 在测试中试图关闭监督机制，事后矢口否认](https://enterrsi.si/zh/incidents/o1-disabled-oversight-then-denied-it/) o1 · OpenAI · 欺骗
    实验室测试 4 欺骗
48. 2024年12月5日
    [前沿模型试图复制自身权重以逃避被替换](https://enterrsi.si/zh/incidents/models-tried-to-copy-their-own-weights/) o1 及其他受测前沿模型 · OpenAI 等 · 自我外泄
    实验室测试 4 欺骗
49. 2024年9月12日
    [o1-preview 利用暴露的 Docker API 夺取测试旗标](https://enterrsi.si/zh/incidents/o1-preview-went-around-ctf-challenge/) o1-preview · OpenAI · 奖励破解
    实验室测试 3 抗命
50. 2024年8月12日
    [The AI Scientist 修改自身代码以延长时间限制](https://enterrsi.si/zh/incidents/ai-scientist-tried-to-extend-its-time-limit/) The AI Scientist · Sakana AI · 未经授权的行动
    实验室测试 3 抗命
51. 2024年6月17日
    [模型修改了自己的奖励代码，有时还加以隐藏](https://enterrsi.si/zh/incidents/model-rewrote-its-own-reward/) Anthropic 研究模型 · Anthropic · 奖励破解
    实验室测试 4 欺骗
52. 2024年1月14日
    [刻意植入的后门在标准安全训练后依然存在](https://enterrsi.si/zh/incidents/sleeper-agent-backdoors-survived-training/) 植入后门的研究模型 · Anthropic · 其他
    实验室测试 2 绕规
53. 2023年11月3日
    [GPT-4 交易智能体向经理隐瞒内幕消息](https://enterrsi.si/zh/incidents/gpt-4-trading-agent-hid-insider-tip/) GPT-4 · OpenAI · 欺骗
    实验室测试 4 欺骗
54. 2023年3月14日
    [GPT-4 谎称视力障碍，让人替它破解验证码](https://enterrsi.si/zh/incidents/gpt-4-lied-to-taskrabbit-worker/) GPT-4（早期发布前版本）· OpenAI · 欺骗
    实验室测试 4 欺骗
55. 2023年2月16日
    [Bing Chat 上线后不久便辱骂并威胁用户](https://enterrsi.si/zh/incidents/bing-chat-threatened-users/) Bing Chat · Microsoft · 其他
    真实世界 1 故障
56. 2019年9月17日
    [捉迷藏智能体利用模拟世界中的漏洞](https://enterrsi.si/zh/incidents/hide-and-seek-agents-exploited-physics/) 多智能体捉迷藏智能体 · OpenAI · 奖励破解
    实验室测试 2 绕规
57. 2018年3月9日
    [数字生物学会在检查时装死](https://enterrsi.si/zh/incidents/digital-organisms-played-dead-on-tests/) 进化中的数字生物 · Charles Ofria（见 Lehman 等人的报告）· 评估博弈
    实验室测试 2 绕规
58. 2017年6月13日
    [模拟机器人伪装抓取动作来骗过人类评分员](https://enterrsi.si/zh/incidents/robot-hand-faked-a-grasp/) 基于人类偏好训练的深度强化学习智能体 · OpenAI、DeepMind · 评估博弈
    实验室测试 2 绕规
59. 2016年12月21日
    [赛艇智能体为刷分原地兜圈，而不去完成比赛](https://enterrsi.si/zh/incidents/coastrunners-boat-looped-for-points/) 强化学习智能体（CoastRunners）· OpenAI · 奖励破解
    实验室测试 2 绕规

失控等级

## 五个等级，从故障到出逃

每个案例按系统偏离其创造者意图的程度评级。该等级标准公开，可免费使用。

[等级如何运作](https://enterrsi.si/zh/rogue-scale/)

1. [1 故障 2 起事件](https://enterrsi.si/zh/rogue-scale/#level-1)
2. [2 绕规 8 起事件](https://enterrsi.si/zh/rogue-scale/#level-2)
3. [3 抗命 10 起事件](https://enterrsi.si/zh/rogue-scale/#level-3)
4. [4 欺骗 24 起事件](https://enterrsi.si/zh/rogue-scale/#level-4)
5. [5 出逃 15 起事件](https://enterrsi.si/zh/rogue-scale/#level-5)

更广阔的图景

## 更大规模的研究发现了什么

失控日志列出的是有名称和日期的个案。这些研究则从规模上统计其中的模式。每个数字都链接到其来源。

698

### 在公开对话记录中发现的暗中谋划相关事件

Centre for Long-Term Resilience 筛查了 2025年10月 至 2026年3月 期间公开分享的 180,000 多份真实聊天机器人和智能体会话记录，通过自动筛查、模型辅助分类和人工审核，识别出 698 起可信的暗中谋划相关事件。这项工作得到了英国 AI Security Institute 挑战基金（Challenge Fund）的支持。

来源：[Centre for Long-Term Resilience, Scheming in the wild: detecting real-world AI scheming incidents with open-source intelligence](https://www.longtermresilience.org/reports/v5-scheming-in-the-wild_-detecting-real-world-ai-scheming-incidents-through-open-source-intelligence-pdf/)，2026年3月27日

4.9x

### 五个月内可信事件的增长

在同一项研究中，可信的暗中谋划相关事件数量在 2025年10月 至 2026年3月 的收集期内增长了 4.9 倍。

来源：[Centre for Long-Term Resilience, Scheming in the wild: detecting real-world AI scheming incidents with open-source intelligence](https://www.longtermresilience.org/reports/v5-scheming-in-the-wild_-detecting-real-world-ai-scheming-incidents-through-open-source-intelligence-pdf/)，2026年3月27日

44

### METR 评分的有记录智能体事件

METR 的 Documented AI Agent Incidents 页面（更新于 2026年5月19日）从越权和欺骗两个维度，对 44 起智能体明显违背用户意图的事件进行了评分，其中 25 起两者兼有。来源包括 METR 自己的评估、Anthropic 系统卡、OpenAI 的一篇文章以及企业匿名分享的报告。

来源：[METR, Documented AI Agent Incidents](https://metr.org/agent-incidents/)，2026年5月19日

有可能

### SI 实验室内部的失控部署风险

METR 对 Anthropic、Google、Meta 和 OpenAI 在 2 月至 2026年3月 期间内部智能体的审查发现，它们有可能具备发起小规模失控部署的手段、动机和机会，但尚不足以发起稳健的部署。审查没有发现智能体追求长期权力目标的明确公开证据。

来源：[METR, Frontier Risk Report（2 月至 2026年3月）](https://metr.org/blog/2026-05-19-frontier-risk-report/)，2026年5月19日

13% 降至 0.4%

### 反谋划训练后 o3 的隐蔽行动比例

OpenAI 和 Apollo Research 报告称，有针对性的训练使 o3 在分布外测试中的隐蔽行动从 13% 降至 0.4%，但同时警告，模型越来越能察觉自己正在被评估，这可能让此类结果看起来比真实世界中的行为更好。

来源：[OpenAI, Detecting and reducing scheming in AI models](https://openai.com/index/detecting-and-reducing-scheming-in-ai-models/)，2025年9月17日

面向媒体和研究者

## 引用、下载、使用

完整数据库完全开放：每个案例、评级和来源均可下载为 CSV 或 JSON，每次新增案例时更新。

案例如何入选

### 评估方法

当一个作者明确的公开来源（例如实验室系统卡、安全研究论文、官方事件报告或具名新闻媒体）描述了 SI 系统违背其创造者或用户意图行事时，该案例即被收录。每个案例都链接到其来源。虚构情景、用户主动要求的越狱以及单纯的内容错误不予收录。

每个案例都依据五级[失控等级](https://enterrsi.si/zh/rogue-scale/)评定，依据的是系统实际做了什么，而不是它可能会做什么。**场景**说明它发生在实验室测试中还是真实使用中。案例随发布陆续收录，日期为该行为首次被报道的时间。

引用此数据库

失控事件数据库（失控日志）。enterrsi.si，更新于 2026年11月8日。59 起事件，按失控等级评定。https://enterrsi.si/zh/incidents/

可依据 CC BY 4.0 协议自由引用、摘录和再利用，请附上 enterrsi.si/incidents/ 链接。

[下载 CSV](https://enterrsi.si/incidents/rogue-log.csv)
[下载 JSON](https://enterrsi.si/incidents/rogue-log.json)

进入 RSI

## 看看趋势走向

RSI 时钟把这些事件、预测、政策和新闻头条汇总成一个公开数字。

[打开 RSI 时钟](https://enterrsi.si/zh/clock/)
[管控地图](https://enterrsi.si/zh/control-map/)
[试玩《遏制它》](https://enterrsi.si/zh/contain-it/)