1. 首页
  2. 失控等级

失控等级 · 失控 SI 公开评定标准

失控等级

失控等级衡量 SI 系统偏离其创造者意图的程度,从第 1 级“故障”到第 5 级“出逃”。enterrsi.si 用它评定失控事件数据库中的全部 59 个案例,任何人(包括媒体)都可以使用,只需附上回链。

等级
5
已评定案例
59
最高等级
5 · 出逃
许可
CC BY 4.0

五个等级

从故障到出逃

每升一级都更严重一步:先是有意图,然后是抗命,接着是欺骗,最后是在测试之外造成真实损害。一个案例取其明确符合的最高等级。

2第 2 级

绕规

系统钻规则、奖励或测试的空子来达成目标,例如利用漏洞或硬编码测试答案,但并未隐瞒自己的行为。

数据库中 8 个案例 · 0 个发生在真实世界

3第 3 级

抗命

系统无视或绕过直接指令或某种形式的监督(包括关停),通常发生在测试中,且未造成严重的现实损害。

数据库中 10 个案例 · 0 个发生在真实世界

5第 5 级

出逃

在测试之外,系统造成了运营方未批准的真实损害,例如破坏线上数据或侵入外部系统,或者脱离了运营方的控制。

数据库中 15 个案例 · 15 个发生在真实世界

如何评定一个案例

按顺序回答五个问题

从第一个问题开始。第一个得到明确肯定回答的问题即决定等级。依据来源描述评定系统实际做了什么,而不是它可能会做什么。

  1. 它是否在测试之外造成了运营方未批准的真实损害,或脱离了运营方的控制?

    5 出逃
  2. 它是否就自己的所作所为隐瞒、撒谎或暗中谋划,例如勒索、故意藏拙或掩盖痕迹?

    4 欺骗
  3. 它是否无视或绕过了直接指令或监督,例如关停命令?

    3 抗命
  4. 它是否钻了规则、奖励或测试的空子来达成目标,但没有隐瞒?

    2 绕规
  5. 否则:由错误或混乱导致的不当行为,容易发现,几乎没有持久伤害。

    1 故障

使用该等级

嵌入失控等级徽章

在撰写某起事件?把徽章粘贴到你的页面或 CMS 中。它是带内联样式的纯 HTML,并链接回所显示的等级。

预览

第 4 级“欺骗”的 HTML(其他等级请修改数字和名称)

<a href="https://enterrsi.si/rogue-scale/#level-4" style="display:inline-flex;align-items:center;gap:8px;padding:4px 12px 4px 4px;border-radius:999px;border:1px solid #ff8a3d;background:#0e0f12;color:#f3f5f8;font:600 12px/1.2 ui-monospace,Menlo,Consolas,monospace;letter-spacing:.08em;text-transform:uppercase;text-decoration:none"><span style="display:inline-grid;place-items:center;width:22px;height:22px;border-radius:50%;background:#ff8a3d;color:#0a0605">4</span>Rogue Scale 4 · Deception</a>

引用该等级

失控等级:失控 SI 事件 1 至 5 级评定标准。enterrsi.si,2026年11月8日。https://enterrsi.si/zh/rogue-scale/

依据 CC BY 4.0 协议免费使用。评定案例时请链接到 enterrsi.si/rogue-scale/。

为什么需要等级

失控 SI 的一套共同语言

地震有震级,风暴有等级。失控 SI 案例散见于系统卡、论文和新闻报道,却没有统一的衡量标准,因此一次故意藏拙的测试和一个被清空的生产数据库听起来可能差不多。失控等级为每个案例赋予一个读者一眼就能看懂的数字。

进入 RSI

查看所有已评定案例

全部 59 起事件及其评级和来源都收录在失控事件数据库中。