# 레드티밍: 의미와 중요성

> 레드티밍은 대중보다 먼저 위험한 능력과 결함을 찾기 위해 SI 시스템을 의도적으로 공격하는 것입니다. RSI 백과사전 수록.

Source: https://enterrsi.si/ko/encyclopedia/red-teaming/
Updated: 2026-11-08

1. [홈](https://enterrsi.si/ko/)
2. [백과사전](https://enterrsi.si/ko/encyclopedia/)
3. 레드티밍

RSI 백과사전 · 용어

# 레드티밍

레드티밍은 대중보다 먼저 위험한 능력과 결함을 찾아내기 위해 SI 시스템을 의도적으로 공격하는 것입니다.

분류
:   용어

다른 이름
:   레드팀, 적대적 테스트

이탈 기록 사례
:   0

이 용어를 쓰는 법률
:   1

## 쉽게 말하면

이 용어는 한 팀이 적의 역할을 맡는 군사 및 보안 훈련에서 유래했습니다. SI 시스템의 경우 레드팀은 모델이 무기 개발을 돕게 하거나, 실제로 작동하는 사이버 익스플로잇을 작성하게 하거나, 샌드박스를 탈출하게 하거나, 사용자를 속이게 하거나, 자체 규칙을 어기게 만들려고 시도합니다. 레드팀에는 연구소 직원, 계약 전문가, 정부 연구 기관, 독립 단체가 참여하며, 점점 더 다른 모델을 활용해 대규모로 결함을 찾습니다.

레드티밍은 이제 대부분의 프런티어 모델 출시 과정과 여러 규칙의 일부입니다. 시스템 카드는 레드팀이 발견한 내용을 보고하며, EU General-Purpose AI Code of Practice와 미국 주 법률은 가장 유능한 모델에 대한 적대적 테스트를 요구합니다. 그 한계는 잘 알려져 있습니다. 레드팀은 결함이 존재한다는 것만 보여 줄 수 있을 뿐 결함이 없다는 것은 결코 보여 줄 수 없으며, 결과는 테스터가 얼마나 많은 접근 권한과 시간을 얻느냐에 달려 있습니다. 격리 평가표의 외부 테스트 등급은 바로 이 조건들을 살펴봅니다.

## 통제를 벗어난 SI와 관련해 중요한 이유

레드팀은 이탈 행동이 가장 먼저 발견되도록 설계된 곳입니다. 이탈 기록의 많은 항목이 레드팀과 평가 보고서에서 나오며, 이는 시스템이 의도대로 작동하고 있다는 뜻입니다.

## 이 용어를 쓰는 법률과 규칙

- 시행 중 [**EU AI Act (GPAI)**](https://enterrsi.si/ko/encyclopedia/eu-ai-act-gpai/) 유럽연합

## 출처

1. [Guidelines for providers of general-purpose AI models](https://digital-strategy.ec.europa.eu/en/policies/guidelines-gpai-providers) European Commission · 2025년 7월 18일

용어

용어
:   레드티밍

다른 이름
:   레드팀, 적대적 테스트

분류
:   용어

관련 용어
:   4

관련 용어

[외부 테스트 **용어**](https://enterrsi.si/ko/encyclopedia/pre-deployment-testing/)[시스템 카드 **용어**](https://enterrsi.si/ko/encyclopedia/system-card/)[SI 안전 연구소 **용어**](https://enterrsi.si/ko/encyclopedia/safety-institute/)[평가 게이밍 **용어**](https://enterrsi.si/ko/encyclopedia/evaluation-gaming/)

이 항목 인용하기

"레드티밍." RSI 백과사전, enterrsi.si, 2026년 11월 8일. https://enterrsi.si/ko/encyclopedia/red-teaming/

enterrsi.si 링크를 함께 표기하면 CC BY 4.0에 따라 자유롭게 인용할 수 있습니다.

RSI 백과사전

## 계속 읽기

통제를 벗어난 SI에 관한 용어, 연구소, 모델, 법률, 이벤트를 다룬 207개 항목과 이탈 사건 데이터베이스의 모든 사례.

[이전 용어 재귀적 자기 개선](https://enterrsi.si/ko/encyclopedia/recursive-self-improvement/)[다음 용어 Responsible Scaling Policy(RSP, 책임 있는 확장 정책)](https://enterrsi.si/ko/encyclopedia/responsible-scaling-policy/)

RSI 들어가기

## 모든 용어, 연구소, 모델, 법률

전체 색인을 처음부터 끝까지 둘러보거나, 분류로 거르거나, 이름을 검색하세요.

[백과사전 열기](https://enterrsi.si/ko/encyclopedia/)
[사건 데이터베이스](https://enterrsi.si/ko/incidents/)
[격리 평가표](https://enterrsi.si/ko/containment-board/)