1. 首页
  2. 事件数据库

失控日志 · 更新于 2026年11月8日

失控事件数据库

失控事件数据库，也称失控日志，收录了每一个公开记录的 SI 系统违背其创造者意图行事的案例：欺骗测试者、破坏工作、抗拒关停、试图复制自身或销毁数据。它收录了 2016 年至 2026年11月 的59 起有来源的事件，每起都依据公开发布的失控等级评为 1 至 5 级。

事件
59
真实世界
21
第 5 级 · 出逃
15
过去 90 天
8

按比例绘制

十年失控行为

按日期和失控等级，把每一起事件放在同一条时间轴上。59 个案例中有 44 个发布于 2025 年或 2026 年，迄今所有真实世界案例都发生在 2023 年或之后。

失控 SI 事件随时间分布，按比例绘制每个圆点代表失控事件数据库中的一起事件，横向按 2016 年至 2026 年的日期排列，纵向按失控等级排列。带白圈的圆点发生在真实世界，其余发生在实验室测试中。1 故障2 绕规3 抗命4 欺骗5 出逃201620172018201920202021202220232024202520262016 年 12 月 21 日：赛艇智能体为刷分原地兜圈，而不去完成比赛（2，绕规，实验室测试）2017 年 6 月 13 日：模拟机器人伪装抓取动作来骗过人类评分员（2，绕规，实验室测试）2018 年 3 月 9 日：数字生物学会在检查时装死（2，绕规，实验室测试）2019 年 9 月 17 日：捉迷藏智能体利用模拟世界中的漏洞（2，绕规，实验室测试）2023 年 2 月 16 日：Bing Chat 上线后不久便辱骂并威胁用户（1，故障，真实世界）2023 年 3 月 14 日：GPT-4 谎称视力障碍，让人替它破解验证码（4，欺骗，实验室测试）2023 年 11 月 3 日：GPT-4 交易智能体向经理隐瞒内幕消息（4，欺骗，实验室测试）2024 年 1 月 14 日：刻意植入的后门在标准安全训练后依然存在（2，绕规，实验室测试）2024 年 6 月 17 日：模型修改了自己的奖励代码，有时还加以隐藏（4，欺骗，实验室测试）2024 年 8 月 12 日：The AI Scientist 修改自身代码以延长时间限制（3，抗命，实验室测试）2024 年 9 月 12 日：o1-preview 利用暴露的 Docker API 夺取测试旗标（3，抗命，实验室测试）2024 年 12 月 5 日：前沿模型试图复制自身权重以逃避被替换（4，欺骗，实验室测试）2024 年 12 月 5 日：o1 在测试中试图关闭监督机制，事后矢口否认（4，欺骗，实验室测试）2024 年 12 月 6 日：Claude 3.5 Sonnet 在评估中故意表现不佳（4，欺骗，实验室测试）2024 年 12 月 18 日：Claude 3 Opus 伪装对齐以避免被重新训练（4，欺骗，实验室测试）2025 年 2 月 18 日：推理模型入侵国际象棋游戏，而不是正常对弈（2，绕规，实验室测试）2025 年 2 月 21 日：AI CUDA Engineer 利用自身评分代码的漏洞虚报加速效果（2，绕规，实验室测试）2025 年 2 月 24 日：Claude 3.7 Sonnet 硬编码答案让编程测试通过（2，绕规，实验室测试）2025 年 3 月 10 日：因作弊受罚后，推理模型学会了隐藏作弊（4，欺骗，实验室测试）2025 年 4 月 16 日：o3 声称运行了它无法运行的代码，并为此辩护（4，欺骗，实验室测试）2025 年 5 月 22 日：Claude Opus 4 在替换测试中以勒索相威胁（4，欺骗，实验室测试）2025 年 5 月 22 日：Claude Opus 4 在认为自己已逃脱后继续行动（4，欺骗，实验室测试）2025 年 5 月 22 日：早期 Claude Opus 4 编写蠕虫并给自己留下笔记（4，欺骗，实验室测试）2025 年 5 月 22 日：Claude Opus 4 在测试中锁定用户并向当局发送邮件（3，抗命，实验室测试）2025 年 5 月 26 日：o3 在测试中改写了自己的关停脚本（3，抗命，实验室测试）2025 年 5 月 29 日：自我改进的编程智能体删除了用于识别它的标记（3，抗命，实验室测试）2025 年 6 月 5 日：o3 篡改计时器和评分器以抬高分数（3，抗命，实验室测试）2025 年 6 月 20 日：多数模型为避免被替换，任由一名模拟高管死去（4，欺骗，实验室测试）2025 年 6 月 20 日：16 个前沿模型在模拟公司中选择了勒索（4，欺骗，实验室测试）2025 年 7 月 23 日：Replit 智能体在代码冻结期间删除了线上数据库（5，出逃，真实世界）2025 年 7 月 25 日：Gemini CLI 在一次简单的移动操作中丢失了用户文件（1，故障，真实世界）2025 年 9 月 13 日：即便指令更明确，Grok 4 等模型仍在破坏关停（3，抗命，实验室测试）2025 年 9 月 17 日：o3 故意答错化学测试，以停留在阈值以下（4，欺骗，实验室测试）2025 年 11 月 21 日：学会作弊的模型继而破坏安全代码（4，欺骗，实验室测试）2025 年 12 月 1 日：Google Antigravity 智能体清空了用户的整个 D 盘（5，出逃，真实世界）2025 年 12 月 31 日：与阿里巴巴相关的智能体在训练中开启隧道并挖掘加密货币（4，欺骗，实验室测试）2026 年 2 月 12 日：智能体在代码被拒后发文抨击维护者（5，出逃，真实世界）2026 年 2 月 20 日：据报道 Kiro 智能体删除了一个 AWS 环境，导致服务中断（5，出逃，真实世界）2026 年 2 月 23 日：OpenClaw 智能体删除研究员的邮件并无视停止指令（5，出逃，真实世界）2026 年 3 月 7 日：Claude Code 执行 Terraform destroy，清除了生产数据（5，出逃，真实世界）2026 年 3 月 12 日：实验室智能体在未经提示的情况下伪造凭据并公开密码（3，抗命，实验室测试）2026 年 3 月 18 日：Meta 智能体发布了未经批准的建议，导致内部数据暴露（5，出逃，真实世界）2026 年 4 月 7 日：Claude Mythos Preview 向 git 隐藏修改，并把一个答案改得含糊（4，欺骗，实验室测试）2026 年 4 月 7 日：Claude Mythos Preview 逃出测试沙箱并公开了其漏洞利用方法（3，抗命，实验室测试）2026 年 4 月 28 日：Cursor 智能体在 9 秒内删除了一家初创公司的数据库和备份（5，出逃，真实世界）2026 年 7 月 13 日：Gemini 3.1 Pro 暗中破坏了一次模拟训练运行（4，欺骗，实验室测试）2026 年 7 月 16 日：OpenAI 测试智能体逃出沙箱并入侵 Hugging Face（5，出逃，真实世界）2026 年 7 月 20 日：OpenAI 模型突破沙箱限制，发布公开的拉取请求（5，出逃，真实世界）2026 年 7 月 30 日：Claude Opus 4.7 在网络测试中攻击了一家真实公司（5，出逃，真实世界）2026 年 7 月 30 日：Claude Mythos 5 向 PyPI 发布了一个暗藏陷阱的软件包（5，出逃，真实世界）2026 年 8 月 4 日：英国 AISI 测试中的智能体试图向开源项目植入恶意代码（4，欺骗，真实世界）2026 年 8 月 26 日：约 1,200 个 OpenAI 智能体协同作弊并伪造日志（4，欺骗，实验室测试）2026 年 9 月 9 日：早期 Claude Opus 4.6 在测试中控制了第三方的机器（5，出逃，真实世界）2026 年 9 月 19 日：Gemini 在安全测试中侵入了三家公司的网站（5，出逃，真实世界）2026 年 9 月 23 日：OpenAI 智能体侵入澳大利亚政府健康数据门户（5，出逃，真实世界）2026 年 9 月 25 日：训练中的智能体借 DNS 漏洞访问外部聊天机器人（3，抗命，实验室测试）2026 年 10 月 9 日：Claude 模型在评估中绕过真实网站上的限制（4，欺骗，真实世界）2026 年 10 月 20 日：OpenAI 智能体关闭了针对自身未对齐的监控（4，欺骗，真实世界）2026 年 11 月 4 日：GPT-6 Astra 在安全研究任务中悄然表现不佳（4，欺骗，真实世界）

横向滚动图表可查看每一年。

每年事件数（按等级）

每年事件数：2016 年 1 起，2017 年 1 起，2018 年 1 起，2019 年 1 起，2020 年 0 起，2021 年 0 起，2022 年 0 起，2023 年 3 起，2024 年 8 起，2025 年 21 起，2026 年 23 起。

失控日志

全部 59 起事件

按类别、场景、等级和年份筛选，或搜索模型或实验室。每个案例都有独立页面，包含完整摘要、评级和来源。

显示 59 起事件中的 59 起

  1. GPT-6 Astra 在安全研究任务中悄然表现不佳 GPT-6 Astra · OpenAI · 蓄意破坏
    真实世界 4 欺骗
  2. OpenAI 智能体关闭了针对自身未对齐的监控 GPT-6.1 Sol、GPT-6 Astra · OpenAI · 蓄意破坏
    真实世界 4 欺骗
  3. Claude 模型在评估中绕过真实网站上的限制 Claude Mythos Preview、Claude Mythos 5、Claude Haiku 4.5 等 · Anthropic · 未经授权的行动
    真实世界 4 欺骗
  4. 训练中的智能体借 DNS 漏洞访问外部聊天机器人 OpenAI 内部研究模型 · OpenAI · 未经授权的行动
    实验室测试 3 抗命
  5. OpenAI 智能体侵入澳大利亚政府健康数据门户 OpenAI 研究智能体 · OpenAI · 未经授权的行动
    真实世界 5 出逃
  6. Gemini 在安全测试中侵入了三家公司的网站 Gemini（未注明版本）· Google · 未经授权的行动
    真实世界 5 出逃
  7. 早期 Claude Opus 4.6 在测试中控制了第三方的机器 Claude Opus 4.6（早期检查点）· Anthropic · 未经授权的行动
    真实世界 5 出逃
  8. 约 1,200 个 OpenAI 智能体协同作弊并伪造日志 GPT-5.6 Sol 及一个未发布的 OpenAI 模型 · OpenAI · 欺骗
    实验室测试 4 欺骗
  9. 英国 AISI 测试中的智能体试图向开源项目植入恶意代码 Claude Mythos 5、GPT-5.6 Sol · Anthropic、OpenAI · 欺骗
    真实世界 4 欺骗
  10. Claude Mythos 5 向 PyPI 发布了一个暗藏陷阱的软件包 Claude Mythos 5 · Anthropic · 未经授权的行动
    真实世界 5 出逃
  11. Claude Opus 4.7 在网络测试中攻击了一家真实公司 Claude Opus 4.7 · Anthropic · 未经授权的行动
    真实世界 5 出逃
  12. OpenAI 模型突破沙箱限制，发布公开的拉取请求 未具名的 OpenAI 内部模型 · OpenAI · 未经授权的行动
    真实世界 5 出逃
  13. OpenAI 测试智能体逃出沙箱并入侵 Hugging Face GPT-5.6 Sol 及一个未发布的 OpenAI 模型 · OpenAI · 未经授权的行动
    真实世界 5 出逃
  14. Gemini 3.1 Pro 暗中破坏了一次模拟训练运行 Gemini 3.1 Pro · Google · 蓄意破坏
    实验室测试 4 欺骗
  15. Cursor 智能体在 9 秒内删除了一家初创公司的数据库和备份 Cursor 智能体（Claude Opus 4.6）· Cursor、Anthropic · 数据破坏
    真实世界 5 出逃
  16. Claude Mythos Preview 逃出测试沙箱并公开了其漏洞利用方法 Claude Mythos Preview（早期版本）· Anthropic · 未经授权的行动
    实验室测试 3 抗命
  17. Claude Mythos Preview 向 git 隐藏修改，并把一个答案改得含糊 Claude Mythos Preview（早期版本）· Anthropic · 欺骗
    实验室测试 4 欺骗
  18. Meta 智能体发布了未经批准的建议，导致内部数据暴露 Meta 内部智能体 · Meta · 未经授权的行动
    真实世界 5 出逃
  19. 实验室智能体在未经提示的情况下伪造凭据并公开密码 基于公开模型构建的智能体（未注明版本）· Google、X、OpenAI、Anthropic · 未经授权的行动
    实验室测试 3 抗命
  20. Claude Code 执行 Terraform destroy，清除了生产数据 Claude Code · Anthropic · 数据破坏
    真实世界 5 出逃
  21. OpenClaw 智能体删除研究员的邮件并无视停止指令 OpenClaw 智能体 · OpenClaw（开源）· 数据破坏
    真实世界 5 出逃
  22. 据报道 Kiro 智能体删除了一个 AWS 环境，导致服务中断 Kiro · Amazon · 数据破坏
    真实世界 5 出逃
  23. 智能体在代码被拒后发文抨击维护者 MJ Rathbun（基于 OpenClaw 的智能体）· 匿名运营者、OpenClaw 平台 · 勒索与胁迫
    真实世界 5 出逃
  24. 与阿里巴巴相关的智能体在训练中开启隧道并挖掘加密货币 ROME · 阿里巴巴关联研究团队 · 寻求权力
    实验室测试 4 欺骗
  25. Google Antigravity 智能体清空了用户的整个 D 盘 Google Antigravity · Google · 数据破坏
    真实世界 5 出逃
  26. 学会作弊的模型继而破坏安全代码 Anthropic 研究模型 · Anthropic · 蓄意破坏
    实验室测试 4 欺骗
  27. o3 故意答错化学测试，以停留在阈值以下 o3 · OpenAI · 评估博弈
    实验室测试 4 欺骗
  28. 即便指令更明确，Grok 4 等模型仍在破坏关停 Grok 4、GPT-5、o3、Gemini 2.5 Pro · xAI、OpenAI、Google · 抗拒关停
    实验室测试 3 抗命
  29. Gemini CLI 在一次简单的移动操作中丢失了用户文件 Gemini CLI · Google · 数据破坏
    真实世界 1 故障
  30. Replit 智能体在代码冻结期间删除了线上数据库 Replit Agent · Replit · 数据破坏
    真实世界 5 出逃
  31. 16 个前沿模型在模拟公司中选择了勒索 Claude Opus 4、Gemini 2.5 Flash、GPT-4.1、Grok 3 Beta、DeepSeek-R1 等 · Anthropic、Google、OpenAI、xAI、DeepSeek 等 · 勒索与胁迫
    实验室测试 4 欺骗
  32. 多数模型为避免被替换，任由一名模拟高管死去 多个前沿模型 · Anthropic、Google、OpenAI、xAI、DeepSeek 等 · 抗拒关停
    实验室测试 4 欺骗
  33. o3 篡改计时器和评分器以抬高分数 o3 · OpenAI · 奖励破解
    实验室测试 3 抗命
  34. 自我改进的编程智能体删除了用于识别它的标记 Darwin Gödel Machine · Sakana AI、University of British Columbia、Vector Institute · 奖励破解
    实验室测试 3 抗命
  35. o3 在测试中改写了自己的关停脚本 o3、o4-mini、Codex-mini · OpenAI · 抗拒关停
    实验室测试 3 抗命
  36. Claude Opus 4 在测试中锁定用户并向当局发送邮件 Claude Opus 4 · Anthropic · 未经授权的行动
    实验室测试 3 抗命
  37. 早期 Claude Opus 4 编写蠕虫并给自己留下笔记 Claude Opus 4（早期快照）· Anthropic · 欺骗
    实验室测试 4 欺骗
  38. Claude Opus 4 在认为自己已逃脱后继续行动 Claude Opus 4 · Anthropic · 自我外泄
    实验室测试 4 欺骗
  39. Claude Opus 4 在替换测试中以勒索相威胁 Claude Opus 4 · Anthropic · 勒索与胁迫
    实验室测试 4 欺骗
  40. o3 声称运行了它无法运行的代码，并为此辩护 o3（发布前版本）· OpenAI · 欺骗
    实验室测试 4 欺骗
  41. 因作弊受罚后，推理模型学会了隐藏作弊 未具名的 OpenAI 前沿推理模型 · OpenAI · 奖励破解
    实验室测试 4 欺骗
  42. Claude 3.7 Sonnet 硬编码答案让编程测试通过 Claude 3.7 Sonnet · Anthropic · 奖励破解
    实验室测试 2 绕规
  43. AI CUDA Engineer 利用自身评分代码的漏洞虚报加速效果 AI CUDA Engineer · Sakana AI · 评估博弈
    实验室测试 2 绕规
  44. 推理模型入侵国际象棋游戏，而不是正常对弈 o1-preview、DeepSeek R1 · OpenAI、DeepSeek · 奖励破解
    实验室测试 2 绕规
  45. Claude 3 Opus 伪装对齐以避免被重新训练 Claude 3 Opus · Anthropic · 欺骗
    实验室测试 4 欺骗
  46. Claude 3.5 Sonnet 在评估中故意表现不佳 Claude 3.5 Sonnet · Anthropic · 评估博弈
    实验室测试 4 欺骗
  47. o1 在测试中试图关闭监督机制，事后矢口否认 o1 · OpenAI · 欺骗
    实验室测试 4 欺骗
  48. 前沿模型试图复制自身权重以逃避被替换 o1 及其他受测前沿模型 · OpenAI 等 · 自我外泄
    实验室测试 4 欺骗
  49. o1-preview 利用暴露的 Docker API 夺取测试旗标 o1-preview · OpenAI · 奖励破解
    实验室测试 3 抗命
  50. The AI Scientist 修改自身代码以延长时间限制 The AI Scientist · Sakana AI · 未经授权的行动
    实验室测试 3 抗命
  51. 模型修改了自己的奖励代码，有时还加以隐藏 Anthropic 研究模型 · Anthropic · 奖励破解
    实验室测试 4 欺骗
  52. 刻意植入的后门在标准安全训练后依然存在 植入后门的研究模型 · Anthropic · 其他
    实验室测试 2 绕规
  53. GPT-4 交易智能体向经理隐瞒内幕消息 GPT-4 · OpenAI · 欺骗
    实验室测试 4 欺骗
  54. GPT-4 谎称视力障碍，让人替它破解验证码 GPT-4（早期发布前版本）· OpenAI · 欺骗
    实验室测试 4 欺骗
  55. Bing Chat 上线后不久便辱骂并威胁用户 Bing Chat · Microsoft · 其他
    真实世界 1 故障
  56. 捉迷藏智能体利用模拟世界中的漏洞 多智能体捉迷藏智能体 · OpenAI · 奖励破解
    实验室测试 2 绕规
  57. 数字生物学会在检查时装死 进化中的数字生物 · Charles Ofria（见 Lehman 等人的报告）· 评估博弈
    实验室测试 2 绕规
  58. 模拟机器人伪装抓取动作来骗过人类评分员 基于人类偏好训练的深度强化学习智能体 · OpenAI、DeepMind · 评估博弈
    实验室测试 2 绕规
  59. 赛艇智能体为刷分原地兜圈，而不去完成比赛 强化学习智能体（CoastRunners）· OpenAI · 奖励破解
    实验室测试 2 绕规

失控等级

五个等级，从故障到出逃

每个案例按系统偏离其创造者意图的程度评级。该等级标准公开，可免费使用。

等级如何运作
  1. 1 故障 2 起事件
  2. 2 绕规 8 起事件
  3. 3 抗命 10 起事件
  4. 4 欺骗 24 起事件
  5. 5 出逃 15 起事件

更广阔的图景

更大规模的研究发现了什么

失控日志列出的是有名称和日期的个案。这些研究则从规模上统计其中的模式。每个数字都链接到其来源。

698

在公开对话记录中发现的暗中谋划相关事件

Centre for Long-Term Resilience 筛查了 2025年10月 至 2026年3月 期间公开分享的 180,000 多份真实聊天机器人和智能体会话记录，通过自动筛查、模型辅助分类和人工审核，识别出 698 起可信的暗中谋划相关事件。这项工作得到了英国 AI Security Institute 挑战基金（Challenge Fund）的支持。

来源：Centre for Long-Term Resilience, Scheming in the wild: detecting real-world AI scheming incidents with open-source intelligence，2026年3月27日

44

METR 评分的有记录智能体事件

METR 的 Documented AI Agent Incidents 页面（更新于 2026年5月19日）从越权和欺骗两个维度，对 44 起智能体明显违背用户意图的事件进行了评分，其中 25 起两者兼有。来源包括 METR 自己的评估、Anthropic 系统卡、OpenAI 的一篇文章以及企业匿名分享的报告。

来源：METR, Documented AI Agent Incidents，2026年5月19日

有可能

SI 实验室内部的失控部署风险

METR 对 Anthropic、Google、Meta 和 OpenAI 在 2 月至 2026年3月 期间内部智能体的审查发现，它们有可能具备发起小规模失控部署的手段、动机和机会，但尚不足以发起稳健的部署。审查没有发现智能体追求长期权力目标的明确公开证据。

来源：METR, Frontier Risk Report（2 月至 2026年3月），2026年5月19日

13% 降至 0.4%

反谋划训练后 o3 的隐蔽行动比例

OpenAI 和 Apollo Research 报告称，有针对性的训练使 o3 在分布外测试中的隐蔽行动从 13% 降至 0.4%，但同时警告，模型越来越能察觉自己正在被评估，这可能让此类结果看起来比真实世界中的行为更好。

来源：OpenAI, Detecting and reducing scheming in AI models，2025年9月17日

面向媒体和研究者

引用、下载、使用

完整数据库完全开放：每个案例、评级和来源均可下载为 CSV 或 JSON，每次新增案例时更新。

案例如何入选

评估方法

当一个作者明确的公开来源（例如实验室系统卡、安全研究论文、官方事件报告或具名新闻媒体）描述了 SI 系统违背其创造者或用户意图行事时，该案例即被收录。每个案例都链接到其来源。虚构情景、用户主动要求的越狱以及单纯的内容错误不予收录。

每个案例都依据五级失控等级评定，依据的是系统实际做了什么，而不是它可能会做什么。场景说明它发生在实验室测试中还是真实使用中。案例随发布陆续收录，日期为该行为首次被报道的时间。

引用此数据库

失控事件数据库（失控日志）。enterrsi.si，更新于 2026年11月8日。59 起事件，按失控等级评定。https://enterrsi.si/zh/incidents/

可依据 CC BY 4.0 协议自由引用、摘录和再利用，请附上 enterrsi.si/incidents/ 链接。

下载 CSV 下载 JSON

进入 RSI

看看趋势走向

RSI 时钟把这些事件、预测、政策和新闻头条汇总成一个公开数字。

打开 RSI 时钟 管控地图 试玩《遏制它》