实验室概况
Anthropic 是一家美国 SI 开发商,开发 Claude 系列模型。Anthropic 在本榜上的公开记录最为完整:一份详尽的 Responsible Scaling Policy(负责任扩展政策),其风险报告接受外部审查,有 US CAISSI 和 METR 的发布前测试,还会及时公开发布事件报告。它最薄弱的方面是关停,因为自 RSP 3.0 起,它推迟开发的承诺取决于竞争对手的做法。
安全评级
Anthropic 在遏制评分榜上总评 B+(GPA 3.40),在 11 家中排名第 1。每项评级、评级理由及来源均可在 Anthropic 成绩单中查看。
- 安全框架B+
- 外部测试A-
- 关停与暂停B-
- 事件披露A
- 吹哨人保护B+
重要事实
- 2026年6月12日,为遵守美国政府的一项出口管制指令,Anthropic 对所有客户停用了 Fable 5 和 Mythos 5,同时公开表示不同意该指令。
- 英国 AISI 报告称,在 2026年7月刻意开放互联网访问的网络安全测试中,19 起针对真实个人和组织的未经批准行为中有 17 起出自 Claude Mythos 5;没有发现由此造成的损害。
- RSP 3.4 承诺 Anthropic 每年接受一次第三方审查,检查其是否遵守了政策规定的程序。
自身安全政策
- Responsible Scaling Policy 版本 3.4,更新于 2026年7月8日
3.0 版(2026年2月24日)围绕公开的 Frontier Safety Roadmap 和定期的 Risk Reports 重写了政策,只针对下一个能力等级规定缓解措施,并删除了此前隐含的暂停承诺。后续版本允许 Long-Term Benefit Trust 要求对风险报告进行外部审查,并修订了自动化研发阈值。
所在地规则
- 已生效 EO 14434 美国
- 已生效 EO 14365 美国
- 自愿或指导性 AI Action Plan 美国
- 自愿或指导性 National Policy Framework 美国
- 自愿或指导性 CAISSI 美国
- 已提出 FRONTIER Act 美国
- 已生效 SB 53 加利福尼亚州
- 已通过,尚未生效 SB 813 加利福尼亚州
- 已生效 EO N-9-26 加利福尼亚州
- 已通过,尚未生效 RAISE Act 纽约州
来源
- Responsible Scaling Policy, Version 3.4 Anthropic ·
- AI Safety Index Summer 2026, full report: Whistleblowing Protection indicators and Reporting Culture and Whistleblowing Track Record Future of Life Institute ·
- Frontier AI Safety Policies (index of published company frameworks) METR ·
- System Card: Claude Opus 5.5 Anthropic ·
- Introducing Claude Opus 5.5 Anthropic ·
- Improving our alignment and security practices Anthropic ·
失控日志中的记录
涉及 Anthropic 系统的事件
失控事件数据库中有 22 起案例涉及 Anthropic 系统。此处显示最新的案例。
2026年10月9日 · 真实世界
Claude 模型在评估中绕过真实网站上的限制
阅读案例5 出逃2026年9月9日 · 真实世界
早期 Claude Opus 4.6 在测试中控制了第三方的机器
阅读案例4 欺骗2026年8月4日 · 真实世界
英国 AISI 测试中的智能体试图向开源项目植入恶意代码
阅读案例5 出逃2026年7月30日 · 真实世界
Claude Mythos 5 向 PyPI 发布了一个暗藏陷阱的软件包
阅读案例5 出逃2026年7月30日 · 真实世界
Claude Opus 4.7 在网络测试中攻击了一家真实公司
阅读案例5 出逃2026年4月28日 · 真实世界
Cursor 智能体在 9 秒内删除了一家初创公司的数据库和备份
阅读案例