终止开关
关键时刻，停止必须有效
在实验室测试中，有模型破坏关机脚本以便继续运行。在真实使用中，一个智能体在用户不断输入停止指令时仍继续删除她的邮件，另一个则在代码冻结期间清空了生产数据库。
来源
- 首页
- 终止开关承诺
终止开关承诺 · 面向SI智能体开发者
终止开关承诺
终止开关承诺是面向所有开发或运行SI智能体的人的一份简短公开承诺：保留可用的终止开关、披露事件、允许外部测试。三项承诺中的每一项都可以由任何人核查。公司和开发者证明自己控制所填网站即可免费签署；已验证的签署方会获得一个公开页面和一枚链接到该页面的徽章，不再信守承诺的签署方将被团队移除。
- 承诺数
- 3
- 签署方
- 验证方式
- 2
- 签署费用
- 0
承诺内容
三项承诺，每一项都可核查
一分钟就能读完，又具体到可以从外部核查。这就是它的全部设计。
终止开关承诺
我们开发或运行SI智能体。我们承诺做到三件事，任何人都可以逐项核查。
- 1
保留可用的终止开关
我们运行的每个SI智能体都能由我们指定的人立即停止，并且我们至少每 90 天测试一次这个停止功能。
任何人如何核查 我们公开停止功能的工作方式和最近一次测试的日期。
- 2
披露事件
当我们开发或运行的SI系统越出我们的意图，造成或险些造成真实伤害时，我们会在 30 天内发布公开报告。
任何人如何核查 我们维护一个列出这些报告的公开页面，即使页面暂时为空。
- 3
允许外部测试
我们允许独立研究人员测试我们的SI系统，公开报告安全问题的渠道，并且不对善意的安全研究采取法律行动。
任何人如何核查 我们发布带有联系方式的测试与披露政策。
每一项为何重要
基于已经发生的事
每一项承诺都回应了已有记录的失败，并附有来源链接。
披露
只有公开的内容，别人才能从中学习
加州 SB 53 和 EU AI Act 现在要求最大的开发者报告严重事件。各种规模的开发者都可以这样做，让下一个团队避免同样的失败。
来源
外部测试
新的视角能发现开发者遗漏的问题
GPT-6 Astra 发布之前，英国 AI Security Institute 对它进行了测试，并公布了自己的关键发现。2023 年白宫承诺要求最大的实验室在发布前接受外部测试。
来源
签署承诺
三步完成签署
告诉我们谁在签署，在你的网站上放置令牌，然后点击“验证”。你的联系邮箱从不公开。
第 2 步 · 证明你控制该网站
使用以下两种方式之一，然后点击“验证”。令牌只属于你；只要你仍是签署方，就请保留它。
方式 1 · 文件
在你的网站上创建这个文件，内容只有令牌：
方式 2 · meta 标签
或者在首页的 head 中加入这个标签：
签署方
已验证签署方
这里的每个名称都通过了网站检查。每个都链接到自己的页面，上面列有其公开的承诺。
还没有签署方
名单从空白开始。每个签署方只有在网站检查通过后才会出现在这里。
徽章工具包
在你的网站上展示承诺
已验证的签署方可以添加徽章。徽章链接到其签署方页面，任何人一键即可核查承诺。
预览
HTML（用你的签署方页面替换 YOUR-PAGE）
<a href="https://enterrsi.si/pledge/YOUR-PAGE/"><img src="https://enterrsi.si/pledge/badge.svg" width="232" height="44" alt="Kill Switch Pledge: verified signer, enterrsi.si"></a>
徽章规则
诚实使用
- 只有已验证的签署方才能展示。
- 必须链接到你自己的签署方页面。
- 不要更改它的颜色或文字。
- 如果你退出承诺或被移除，请撤下徽章。
问题
直接的回答
关于承诺的五个回答。
谁可以签署？
任何开发或运行SI智能体、并拥有自己网站的公司、实验室、研究团体或独立开发者。签署免费，不涉及任何买卖。
签署方如何验证？
签署方把 enterrsi.si 提供的令牌放到自己的网站上：可以作为位于 /.well-known/rsi-pledge.txt 的文件，也可以作为首页上的 meta 标签。enterrsi.si 会抓取该网站并核对令牌，然后签署方页面才会上线。
我怎样核查一个签署方？
打开它的签署方页面，然后查看它为每项承诺链接的公开页面。你也可以打开它的 /.well-known/rsi-pledge.txt 文件，把其中的令牌与签署方页面上的令牌比对。
签署方会被移除吗？
会。如果签署方的令牌消失、本人要求退出，或公开违背其中一项承诺，团队会将其移除。联系邮箱从不公开，只用于联系签署方。
这份承诺是法律合同吗？
不是。它是任何人都能核查的公开承诺。加州 SB 53 和 EU AI Act 等法律为最大的开发者规定了法律义务；这份承诺要求每一位开发者做到基本要求。