1. 首页
  2. 百科
  3. 能力阈值

RSI 百科 · 术语

能力阈值

能力阈值是一个明确界定的危险能力水平,例如能为网络攻击提供实质帮助,达到该水平时,实验室或法律要求采取更强的保障措施。

类别
术语
又称
关键能力等级,风险阈值
失控日志案例
0
使用该术语的法规
0

通俗解释

能力阈值是实验室安全框架的触发点。实验室不是按规模判断风险,而是测试模型在生物武器、网络攻击、自主复制或自动化 SI 研究等风险领域实际能做什么。当模型越过某个阈值时,框架会要求采取特定的安全防护措施,例如加强对其权重的安全保护、限制部署,或在某些框架中暂停,直到缓解措施就绪。各实验室使用的名称各不相同,例如关键能力等级(Critical Capability Levels)、高级与关键级,或带编号的安全等级。

2026 年,多个旗舰模型达到了最高级别的阈值。OpenAI 将 GPT-6 Astra 的网络安全能力评为关键级,Google DeepMind 则表示无法排除 Gemini 4 Argon 已达到其网络安全关键能力等级。阈值的弱点在于衡量:一个故意藏拙的模型,或一项漏测了某种能力的测试,都可能让一个危险的模型在纸面上停留在阈值之下。

对失控 SI 的意义

实验室正是通过阈值来判断一个模型何时危险到不能按常规对待。如果阈值设得太高或衡量不当,一个有能力失控的系统就可能被当作例行事务处理。

RSI 百科

继续阅读

207 个条目,涵盖失控 SI 相关的术语、实验室、模型、法规和大事件,并收录失控事件数据库中的每个案例。

进入 RSI

所有术语、实验室、模型与法规

浏览完整的 A 到 Z 索引,按类别筛选或搜索名称。