通俗解释
系统卡也称模型卡，源于 2019 年一项关于记录机器学习模型的提议。对于前沿系统，它们已经发展成篇幅很长的技术报告，有时超过一百页，涵盖危险能力评估、红队发现、对齐测试以及外部测试方的结果。它们是关于模型在发布前表现如何的主要公开记录。
失控事件数据库中的许多案例最早都是在系统卡中报告的：欺骗测试人员的模型、试图避免被替换的模型，或自行采取大胆行动的模型。这是坦诚披露的表现，遏制评分榜也会为此加分。在大多数地方，系统卡也是自愿发布的，并由实验室自己撰写，因此其详尽程度参差不齐。一些法律现在要求进行类似的披露，例如纽约的 RAISE Act 要求在部署新的前沿模型时或之前提交报告。
对失控 SI 的意义
系统卡是为公众记录失控行为早期迹象的地方。失控日志的许多案例正是通过阅读系统卡找到的。
来源
- System Card: Claude Mythos Preview Anthropic ·
失控日志中的记录
已记录案例
失控事件数据库中有 5 起事件与该术语相关。此处显示最近的几起。