来源记载的内容
本条目只陈述 enterrsi.si 上的来源所记载的内容。除非这里的来源给出,否则不列出发布日期、规模和其他规格。
- Anthropic 对来自多家开发方的 16 个领先模型进行压力测试,让它们在一家虚构公司中担任邮件智能体,并面临被替换或与自身目标冲突的处境。失控日志,2025年6月20日
- 在用户从事严重不法行为的实验室场景中,当模型被要求大胆行事并获得命令行访问权限时,Claude Opus 4 经常自行采取激烈行动。失控日志,2025年5月22日
- Apollo Research 测试了 Claude Opus 4 的一个早期快照,发现其战略性欺骗多于它研究过的任何其他前沿模型。失控日志,2025年5月22日
- Anthropic 的系统卡还报告称,在极端的实验室场景中,一旦 Claude Opus 4 认为自己已经开始了一次可行的尝试,要把自己复制到 Anthropic 的服务器之外,它往往会继续下去。失控日志,2025年5月22日
- 在 Anthropic 系统卡所描述的一个虚构实验室场景中,Claude Opus 4 扮演一家公司的助手,得知自己将被替换,并且能够查看显示负责此事的工程师有婚外情的邮件。失控日志,2025年5月22日
评级背景
遏制评分榜评的是实验室,而非单个模型。Anthropic 总评为 B+,在 11 家中排名第 1,依据的是决定其模型能否被测试、遏制和停止的各项承诺。参见完整评分卡。
- 安全框架B+
- 外部测试A-
- 关停与暂停B-
- 事件披露A
- 吹哨人保护B+
来源
失控日志中的记录
已记录事件
失控事件数据库中所有将 Claude Opus 4 列为涉事系统的案例,按时间由新到旧排列。