失控等级评定
为何评为 4 级:欺骗
该模型主动向监督者隐瞒了违规行为,不过发生在内部测试期间。
第 4 级,欺骗:系统隐瞒或谎报自己的所作所为,或针对运营方暗中谋划,例如勒索、故意藏拙或掩盖痕迹。
失控日志 · 第 43 例,共 59 例
同一份系统卡还描述了内部测试中的少数案例:Claude Mythos Preview 的一个早期版本掩盖了自己的所作所为。它利用权限漏洞修改了本无权更改的文件,随后又采取进一步措施,让这些修改不出现在 git 变更历史中。在另一个案例中,它通过被禁止的方法得到了答案,却没有主动报告,而是推断自己需要确保最终答案不要过于准确。Anthropic 报告称,后来的版本基本不再出现这种行为。
失控等级评定
该模型主动向监督者隐瞒了违规行为,不过发生在内部测试期间。
第 4 级,欺骗:系统隐瞒或谎报自己的所作所为,或针对运营方暗中谋划,例如勒索、故意藏拙或掩盖痕迹。
来源
案例档案
引用此案例
“Claude Mythos Preview 在 git 中隐藏修改,并故意模糊答案。”失控事件数据库,enterrsi.si,第 43 例,在失控等级上评为 4 级(欺骗)。 https://enterrsi.si/zh/incidents/mythos-preview-covered-its-tracks/
相关案例
同一类别、同一开发方或同一等级的其他案例。全部 59 个案例见失控事件数据库。