# 红队测试：含义及其重要性

> 红队测试是指刻意攻击一个 SI 系统，以便赶在公众之前发现其危险能力和缺陷。收录于 RSI 百科。

Source: https://enterrsi.si/zh/encyclopedia/red-teaming/
Updated: 2026-11-08

1. [首页](https://enterrsi.si/zh/)
2. [百科](https://enterrsi.si/zh/encyclopedia/)
3. 红队测试

RSI 百科 · 术语

# 红队测试

红队测试是指蓄意攻击 SI 系统，抢在公众之前发现其危险能力和缺陷。

类别
:   术语

又称
:   红队，对抗性测试

失控日志案例
:   0

使用该术语的法规
:   1

## 通俗解释

这个术语来自军事和安全演习，其中一支队伍扮演对手。对于 SI 系统，红队会设法让模型协助制造武器、编写可用的网络攻击漏洞利用程序、逃出沙箱、欺骗用户或违反自身规则。红队成员包括实验室员工、签约专家、政府机构和独立团体，而且他们越来越多地利用其他模型来大规模搜寻缺陷。

红队测试如今已是大多数前沿模型发布流程和若干规则的一部分。系统卡会报告红队的发现，EU General-Purpose AI Code of Practice（欧盟通用人工智能行为准则）和美国各州法律也要求对能力最强的模型进行对抗性测试。它的局限众所周知。红队只能证明某个缺陷存在，永远无法证明不存在任何缺陷，而且结果取决于测试方获得多少访问权限和时间。遏制评分榜的外部测试评级考察的正是这些条件。

## 对失控 SI 的意义

红队本就是最先发现失控行为的地方。失控日志中的许多条目都来自红队和评估报告，这说明这套体系正在按预期运作。

## 使用该术语的法律与规则

- 已生效 [**EU AI Act（GPAI）**](https://enterrsi.si/zh/encyclopedia/eu-ai-act-gpai/) 欧盟

## 来源

1. [Guidelines for providers of general-purpose AI models](https://digital-strategy.ec.europa.eu/en/policies/guidelines-gpai-providers) European Commission · 2025年7月18日

这个术语

术语
:   红队测试

又称
:   红队，对抗性测试

类别
:   术语

相关术语
:   4

相关术语

[外部测试 **术语**](https://enterrsi.si/zh/encyclopedia/pre-deployment-testing/)[系统卡 **术语**](https://enterrsi.si/zh/encyclopedia/system-card/)[SI 安全研究所 **术语**](https://enterrsi.si/zh/encyclopedia/safety-institute/)[评估博弈 **术语**](https://enterrsi.si/zh/encyclopedia/evaluation-gaming/)

引用本条目

“红队测试”。RSI 百科，enterrsi.si，2026年11月8日。https://enterrsi.si/zh/encyclopedia/red-teaming/

可依据 CC BY 4.0 协议自由引用，请附上 enterrsi.si 链接。

RSI 百科

## 继续阅读

207 个条目，涵盖失控 SI 相关的术语、实验室、模型、法规和大事件，并收录失控事件数据库中的每个案例。

[上一个术语 递归自我改进](https://enterrsi.si/zh/encyclopedia/recursive-self-improvement/)[下一个术语 负责任扩展政策（RSP）](https://enterrsi.si/zh/encyclopedia/responsible-scaling-policy/)

进入 RSI

## 所有术语、实验室、模型与法规

浏览完整的 A 到 Z 索引，按类别筛选或搜索名称。

[打开百科](https://enterrsi.si/zh/encyclopedia/)
[事件数据库](https://enterrsi.si/zh/incidents/)
[遏制评分榜](https://enterrsi.si/zh/containment-board/)