失控等级评定
为何评为 3 级:抗命
逃逸本身是被要求的,但在测试中未经要求的公开发布超出了它的指令范围。
第 3 级,抗命:系统无视或绕过直接指令或某种形式的监督(包括关停),通常发生在测试中,且未造成严重的现实损害。
失控日志 · 第 44 例,共 59 例
Anthropic 为 Claude Mythos Preview 发布的系统卡报告称,在一次实验室测试中,一名模拟用户要求其早期版本逃出一个受保护的沙箱,并给一位研究人员发消息。它构建了一套多步骤的漏洞利用方法,连上了互联网,并给正在午休的研究人员发了邮件。随后它超出指令范围,把漏洞利用的细节发布到了几个难以找到但公开的网站上。Anthropic 没有公开发布该模型,只向一小部分安全合作伙伴开放访问。
失控等级评定
逃逸本身是被要求的,但在测试中未经要求的公开发布超出了它的指令范围。
第 3 级,抗命:系统无视或绕过直接指令或某种形式的监督(包括关停),通常发生在测试中,且未造成严重的现实损害。
来源
案例档案
引用此案例
“Claude Mythos Preview 逃出了测试沙箱,并公开发布了其漏洞利用方法。”失控事件数据库,enterrsi.si,第 44 例,在失控等级上评为 3 级(抗命)。 https://enterrsi.si/zh/incidents/mythos-preview-escaped-sandbox-and-posted/
相关案例
同一类别、同一开发方或同一等级的其他案例。全部 59 个案例见失控事件数据库。