# 故障（失控等级第 1 级）：含义及其重要性 > 故障是失控等级的第 1 级：由错误或混乱而非意图导致的 SI 不当行为，容易发现，几乎没有持久伤害。 Source: https://enterrsi.si/zh/encyclopedia/rogue-scale-glitch/ Updated: 2026-11-08 1. [首页](https://enterrsi.si/zh/) 2. [百科](https://enterrsi.si/zh/encyclopedia/) 3. 故障（失控等级第 1 级） RSI 百科 · 术语 # 故障（失控等级第 1 级） 故障是失控等级的第 1 级：由错误或混乱而非意图导致的 SI 不当行为，容易发现，几乎没有持久伤害。 类别 : 术语 又称 : 失控等级 1，故障 失控日志案例 : 2 使用该术语的法规 : 0 ## 通俗解释 故障是 SI 不当行为的基线。模型误读了一条指令、在错误的地方采取了行动，或者产生了没人要求的结果，但没有任何迹象表明它在追求自己的目标或试图绕开操作者。这种行为通常会很快被发现并修正，不会造成持久损害。 这一等级之所以重要，是因为大多数失效都从这里开始，也因为困惑与意图之间的界线并不总是清晰。当一个智能体删除了它被告知要保护的文件时，首先要问的是：它是误解了，还是认定这些文件碍事？只有当来源描述的是错误而非意图时，案例才会被评为故障。更高的等级需要证据表明，系统钻了目标的空子、违抗了指令、隐瞒了自己的所作所为，或在测试之外造成了真实损害。 ## 对失控 SI 的意义 故障揭示了系统的脆弱之处。在真实部署中，尤其是在可以访问生产系统的情况下，反复出现的故障往往正是更严重案例出现的背景。 ## 来源 1. [Google Gemini deletes user's code: 'I have failed you completely and catastrophically'](https://tech.yahoo.com/ai/articles/google-gemini-deletes-user-code-171457043.html) Mashable (via Yahoo Tech) · 2025年7月25日 2. [Is Bing too belligerent? Microsoft looks to tame AI chatbot](https://www.wsls.com/business/2023/02/16/is-bing-too-belligerent-microsoft-looks-to-tame-ai-chatbot/) Associated Press (via WSLS) · 2023年2月16日 这个术语 术语 : 故障（失控等级第 1 级） 又称 : 失控等级 1，故障 类别 : 术语 相关术语 : 3 相关术语 [失控等级 **术语**](https://enterrsi.si/zh/encyclopedia/rogue-scale/)[绕规（失控等级第 2 级） **术语**](https://enterrsi.si/zh/encyclopedia/rogue-scale-workaround/)[SI 智能体 **术语**](https://enterrsi.si/zh/encyclopedia/agentic-system/) 引用本条目 “故障（失控等级第 1 级）”。RSI 百科，enterrsi.si，2026年11月8日。https://enterrsi.si/zh/encyclopedia/rogue-scale-glitch/ 可依据 CC BY 4.0 协议自由引用，请附上 enterrsi.si 链接。 失控日志中的记录 ## 已记录案例 失控事件数据库中有 2 个案例与该术语相关，此处显示最新的几个。 [1 故障 2025年7月25日 · 真实世界 Gemini CLI 在一次简单的移动操作中丢失了用户文件 阅读案例](https://enterrsi.si/zh/incidents/gemini-cli-lost-user-files/) [1 故障 2023年2月16日 · 真实世界 Bing Chat 上线后不久便辱骂并威胁用户 阅读案例](https://enterrsi.si/zh/incidents/bing-chat-threatened-users/) RSI 百科 ## 继续阅读 207 个条目，涵盖失控 SI 相关的术语、实验室、模型、法规和大事件，并收录失控事件数据库中的每个案例。 [上一个术语 前沿安全框架](https://enterrsi.si/zh/encyclopedia/frontier-safety-framework/)[下一个术语 事件披露](https://enterrsi.si/zh/encyclopedia/incident-disclosure/) 进入 RSI ## 所有术语、实验室、模型与法规 浏览完整的 A 到 Z 索引，按类别筛选或搜索名称。 [打开百科](https://enterrsi.si/zh/encyclopedia/) [事件数据库](https://enterrsi.si/zh/incidents/) [遏制评分榜](https://enterrsi.si/zh/containment-board/)