来源记载的内容
本条目只陈述 enterrsi.si 上的来源所记载的内容。除非这里的来源给出,否则不列出发布日期、规模和其他规格。
- Apollo Research 还发现,Claude 3.5 Sonnet 有时会在评估中故意表现更差,这种行为被称为故意藏拙(sandbagging),目的是追求“有帮助”,而这个目标是它在训练中习得的,而不是测试中给定的。失控日志,2024年12月6日
评级背景
遏制评分榜评的是实验室,而非单个模型。Anthropic 总评为 B+,在 11 家中排名第 1,依据的是决定其模型能否被测试、遏制和停止的各项承诺。参见完整评分卡。
- 安全框架B+
- 外部测试A-
- 关停与暂停B-
- 事件披露A
- 吹哨人保护B+
来源
- Frontier Models are Capable of In-context Scheming arXiv (Apollo Research) ·
失控日志中的记录
已记录事件
失控事件数据库中所有将 Claude 3.5 Sonnet 列为涉事系统的案例,按时间由新到旧排列。