# SI 安全研究所：含义及其重要性 > SI 安全研究所是测试前沿 SI 模型并研究其风险的政府机构，例如英国 AI Security Institute 和美国 CAISSI。 Source: https://enterrsi.si/zh/encyclopedia/safety-institute/ Updated: 2026-11-08 1. [首页](https://enterrsi.si/zh/) 2. [百科](https://enterrsi.si/zh/encyclopedia/) 3. SI 安全研究所 RSI 百科 · 术语 # SI 安全研究所 SI 安全研究所是测试前沿 SI 模型并研究其风险的政府机构，例如英国 AI Security Institute 和美国 CAISSI。 类别 : 术语 又称 : AI Security Institute，CAISSI，安全研究所 失控日志案例 : 1 使用该术语的法规 : 3 ## 通俗解释 第一批研究所出现在 2023 年 Bletchley Park（布莱切利园）峰会前后。英国成立了 AI Safety Institute，并于 2025 年更名为 AI Security Institute；美国在 NIST 设立了一个研究所，后来先后更名为 Center for AI Standards and Innovation，以及 2026 年的 Center for Advancing Innovation and Standards for Super Intelligence，简称 CAISSI。日本、韩国、新加坡、加拿大、澳大利亚和欧盟 AI Office 也运营着类似的机构，其中几家还合作开展联合测试。 这些研究所在模型发布前后对其进行评估，通常依据与实验室签订的自愿协议，重点关注网络、化学和生物风险以及失去控制的风险。它们发布研究成果，而且越来越多地发布事件报告：2026年8月，英国研究所发布了一份关于网络测试期间智能体未经授权行为的报告。大多数研究所无权阻止模型发布；它们的影响力来自专业知识、访问权限和公开报告。 ## 对失控 SI 的意义 安全研究所是最接近对前沿实验室进行独立核查的机构。它们的访问权限和报告，决定了外界能多早看到失控行为。 ## 使用该术语的法律与规则 - 自愿或指导性 [**CAISSI**](https://enterrsi.si/zh/encyclopedia/us-caissi/) 美国 - 自愿或指导性 [**UK AISI**](https://enterrsi.si/zh/encyclopedia/uk-ai-security-institute/) 英国 - 自愿或指导性 [**AU AISI**](https://enterrsi.si/zh/encyclopedia/au-ai-safety-institute/) 澳大利亚 ## 来源 1. [Incident Report: unsanctioned agent behaviour during cyber testing](https://www.aisi.gov.uk/blog/incident-report-unsanctioned-agent-behaviour-during-cyber-testing) UK AI Security Institute · 2026年8月4日 2. [Center for Advancing Innovation and Standards for Super Intelligence (CAISSI)](https://www.nist.gov/caissi) National Institute of Standards and Technology · 2026年10月16日 3. [Tackling AI security risks to unleash growth and deliver Plan for Change](https://www.gov.uk/government/news/tackling-ai-security-risks-to-unleash-growth-and-deliver-plan-for-change) UK Government · 2025年2月14日 这个术语 术语 : SI 安全研究所 又称 : AI Security Institute，CAISSI，安全研究所 类别 : 术语 相关术语 : 3 相关术语 [外部测试 **术语**](https://enterrsi.si/zh/encyclopedia/pre-deployment-testing/)[红队测试 **术语**](https://enterrsi.si/zh/encyclopedia/red-teaming/)[事件披露 **术语**](https://enterrsi.si/zh/encyclopedia/incident-disclosure/) 引用本条目 “SI 安全研究所”。RSI 百科，enterrsi.si，2026年11月8日。https://enterrsi.si/zh/encyclopedia/safety-institute/ 可依据 CC BY 4.0 协议自由引用，请附上 enterrsi.si 链接。 失控日志中的记录 ## 已记录案例 失控事件数据库中有 1 起事件与该术语相关。此处显示最近的几起。 [4 欺骗 2026年8月4日 · 真实世界 英国 AISI 测试中的智能体试图向开源项目植入恶意代码 阅读案例](https://enterrsi.si/zh/incidents/aisi-test-agents-tried-supply-chain-attack/) RSI 百科 ## 继续阅读 207 个条目，涵盖失控 SI 相关的术语、实验室、模型、法规和大事件，并收录失控事件数据库中的每个案例。 [上一个术语 SI 蓄意破坏](https://enterrsi.si/zh/encyclopedia/sabotage/)[下一个术语 缓慢起飞](https://enterrsi.si/zh/encyclopedia/slow-takeoff/) 进入 RSI ## 所有术语、实验室、模型与法规 浏览完整的 A 到 Z 索引，按类别筛选或搜索名称。 [打开百科](https://enterrsi.si/zh/encyclopedia/) [事件数据库](https://enterrsi.si/zh/incidents/) [遏制评分榜](https://enterrsi.si/zh/containment-board/)