# レッドチーミング：意味と重要性

> レッドチーミングとは、危険な能力や欠陥を一般の人々より先に見つけるため、SIシステムを意図的に攻撃すること。RSI百科事典の項目。

Source: https://enterrsi.si/ja/encyclopedia/red-teaming/
Updated: 2026-11-08

1. [ホーム](https://enterrsi.si/ja/)
2. [百科事典](https://enterrsi.si/ja/encyclopedia/)
3. レッドチーミング

RSI百科事典 · 用語

# レッドチーミング

レッドチーミングとは、一般の人々より先に危険な能力や欠陥を見つけるため、意図的にSIシステムを攻撃することである。

カテゴリー
:   用語

別名
:   レッドチーム、敵対的テスト

暴走ログの事例
:   0

この用語を使う法律
:   1

## わかりやすく言うと

この言葉は、一方のチームが敵役を演じる軍事演習やセキュリティ演習に由来する。SIシステムに対しては、レッドチームはモデルに兵器開発を手伝わせる、実際に動作するサイバー攻撃のエクスプロイトを書かせる、サンドボックスから脱出させる、ユーザーを欺かせる、自らのルールを破らせる、といったことを試みる。レッドチームには、ラボの職員、契約した専門家、政府の研究機関、独立したグループが含まれ、欠陥を大規模に探すためにほかのモデルを使うことも増えている。

レッドチーミングは今や、フロンティア・モデルのリリース手続きの大半と、いくつかの規則の一部となっている。システムカードはレッドチームが発見したことを報告し、EUのGeneral-Purpose AI Code of Practiceや米国の州法は、最も高い能力を持つモデルに対する敵対的テストを求めている。その限界はよく知られている。レッドチームが示せるのは欠陥が存在することだけであり、欠陥がないことは決して示せない。また結果は、テスターがどれだけのアクセスと時間を得られるかに左右される。封じ込めボードの外部テストの評価は、まさにそうした条件に注目している。

## 暴走SIにとっての重要性

レッドチームは、暴走行動が最初に見つかるべき場所である。暴走ログの項目の多くはレッドチームや評価の報告書から得られており、それは仕組みが意図どおりに機能している証拠である。

## この用語を使う法律と規則

- 施行中 [**EU AI Act（GPAI）**](https://enterrsi.si/ja/encyclopedia/eu-ai-act-gpai/) 欧州連合

## 出典

1. [Guidelines for providers of general-purpose AI models](https://digital-strategy.ec.europa.eu/en/policies/guidelines-gpai-providers) European Commission · 2025年7月18日

この用語

用語
:   レッドチーミング

別名
:   レッドチーム、敵対的テスト

カテゴリー
:   用語

関連用語
:   4

関連用語

[外部テスト **用語**](https://enterrsi.si/ja/encyclopedia/pre-deployment-testing/)[システムカード **用語**](https://enterrsi.si/ja/encyclopedia/system-card/)[SI安全研究機関 **用語**](https://enterrsi.si/ja/encyclopedia/safety-institute/)[評価ゲーミング **用語**](https://enterrsi.si/ja/encyclopedia/evaluation-gaming/)

この項目を引用する

「レッドチーミング」『RSI百科事典』enterrsi.si、2026年11月8日。https://enterrsi.si/ja/encyclopedia/red-teaming/

enterrsi.siへのリンクを添えれば、CC BY 4.0のもとで自由に引用できます。

RSI百科事典

## さらに読む

暴走SIに関する用語、ラボ、モデル、法律、出来事の207項目に加え、暴走インシデント・データベースの全事例を収録しています。

[前の用語 再帰的自己改善](https://enterrsi.si/ja/encyclopedia/recursive-self-improvement/)[次の用語 Responsible Scaling Policy（RSP）](https://enterrsi.si/ja/encyclopedia/responsible-scaling-policy/)

RSIに入る

## あらゆる用語、ラボ、モデル、法律

AからZまでの索引を閲覧するか、カテゴリーで絞り込むか、名前で検索してください。

[百科事典を開く](https://enterrsi.si/ja/encyclopedia/)
[インシデント・データベース](https://enterrsi.si/ja/incidents/)
[封じ込めボード](https://enterrsi.si/ja/containment-board/)