# Red teaming: Arti dan Mengapa Penting

> Red teaming adalah upaya menyerang sistem SI secara sengaja untuk menemukan kemampuan berbahaya dan kegagalan sebelum publik menemukannya. Di Ensiklopedia RSI.

Source: https://enterrsi.si/id/encyclopedia/red-teaming/
Updated: 2026-11-08

1. [Beranda](https://enterrsi.si/id/)
2. [Ensiklopedia](https://enterrsi.si/id/encyclopedia/)
3. Red teaming

Ensiklopedia RSI · Istilah

# Red teaming

Red teaming adalah serangan yang disengaja terhadap sistem SI untuk menemukan kemampuan berbahaya dan kegagalannya sebelum publik menemukannya.

Kategori
:   Istilah

Disebut juga
:   red team, pengujian adversarial

Kasus Log Lepas Kendali
:   0

Hukum yang memakainya
:   1

## Dalam bahasa sederhana

Istilah ini berasal dari latihan militer dan keamanan ketika satu tim berperan sebagai lawan. Untuk sistem SI, red team berusaha membuat model membantu pembuatan senjata, menulis eksploit siber yang berfungsi, lolos dari sandbox-nya, menipu penggunanya, atau melanggar aturannya sendiri. Red team mencakup staf lab, pakar yang dikontrak, lembaga pemerintah, dan kelompok independen, dan mereka makin sering menggunakan model lain untuk mencari kegagalan dalam skala besar.

Red teaming kini menjadi bagian dari sebagian besar proses rilis model terdepan dan dari beberapa aturan. Kartu sistem melaporkan temuan red team, dan EU General-Purpose AI Code of Practice serta undang-undang negara bagian AS meminta pengujian adversarial atas model-model yang paling cakap. Keterbatasannya sudah dikenal luas. Red team hanya dapat menunjukkan bahwa sebuah kegagalan ada, tidak pernah bahwa tidak ada kegagalan sama sekali, dan hasilnya bergantung pada seberapa banyak akses dan waktu yang didapat penguji. Nilai pengujian eksternal di Papan Penahanan melihat persis kondisi-kondisi itu.

## Mengapa ini penting bagi SI lepas kendali

Red team adalah tempat perilaku lepas kendali seharusnya pertama kali ditemukan. Banyak entri dalam Log Lepas Kendali berasal dari laporan red team dan evaluasi, yang menandakan sistem bekerja sebagaimana mestinya.

## Hukum dan aturan yang memakainya

- Berlaku [**EU AI Act (GPAI)**](https://enterrsi.si/id/encyclopedia/eu-ai-act-gpai/) Uni Eropa

## Sumber

1. [Guidelines for providers of general-purpose AI models](https://digital-strategy.ec.europa.eu/en/policies/guidelines-gpai-providers) European Commission · 18 Jul 2025

Istilahnya

Istilah
:   Red teaming

Disebut juga
:   red team, pengujian adversarial

Kategori
:   Istilah

Istilah terkait
:   4

Istilah terkait

[Pengujian eksternal **Istilah**](https://enterrsi.si/id/encyclopedia/pre-deployment-testing/)[Kartu sistem **Istilah**](https://enterrsi.si/id/encyclopedia/system-card/)[Lembaga keselamatan SI **Istilah**](https://enterrsi.si/id/encyclopedia/safety-institute/)[Manipulasi evaluasi **Istilah**](https://enterrsi.si/id/encyclopedia/evaluation-gaming/)

Kutip entri ini

"Red teaming." Ensiklopedia RSI, enterrsi.si, 8 November 2026. https://enterrsi.si/id/encyclopedia/red-teaming/

Bebas dikutip di bawah CC BY 4.0 dengan tautan ke enterrsi.si.

Ensiklopedia RSI

## Lanjut membaca

207 entri tentang istilah, lab, model, hukum, dan peristiwa seputar SI lepas kendali, ditambah setiap kasus di Basis Data Insiden Lepas Kendali.

[Istilah sebelumnya Perbaikan diri rekursif](https://enterrsi.si/id/encyclopedia/recursive-self-improvement/)[Istilah berikutnya Responsible Scaling Policy (RSP)](https://enterrsi.si/id/encyclopedia/responsible-scaling-policy/)

Masuk ke RSI

## Setiap istilah, lab, model, dan hukum

Jelajahi indeks lengkap A sampai Z, saring menurut kategori, atau cari sebuah nama.

[Buka ensiklopedia](https://enterrsi.si/id/encyclopedia/)
[Basis Data Insiden](https://enterrsi.si/id/incidents/)
[Papan Penahanan](https://enterrsi.si/id/containment-board/)