Kuasai RSI

Definisi sederhana untuk kata-kata yang akan makin sering Anda dengar seiring kecerdasan super lepas kendali masuk arus utama. Tautkan ke istilah mana pun melalui jangkarnya sendiri.

Istilah: 26
Waktu baca: 6 mnt
Tingkat: Bahasa sederhana
Diperbarui: Nov 2026

Risiko dari A sampai Z

26 istilah, satu halaman

Mulailah dengan empat istilah pertama. Keempatnya menjelaskan segala hal lain di situs ini.

01Rogue Super Intelligence (RSI): Kecerdasan super yang bertindak melawan tujuan atau kendali orang-orang yang membangunnya, baik karena cacat rancangan, penipuan, maupun perbaikan diri yang tak terkendali.
02Super Intelligence (SI): Kecerdasan yang jauh melampaui pikiran manusia terbaik di hampir setiap bidang. Sejak September 2026, istilah ini juga menjadi istilah resmi federal AS untuk teknologi yang dulu disebut kecerdasan buatan.
03Kecerdasan umum buatan (AGI): Sistem yang dapat mempelajari dan melakukan sebagian besar tugas intelektual yang bisa dilakukan manusia. Banyak peneliti memandang AGI sebagai langkah tepat sebelum kecerdasan super.
04Kecerdasan super buatan (ASI): Nama lama untuk kecerdasan super, yang dipakai dalam makalah riset dan buku sebelum penggantian nama pada 2026.
05Perbaikan diri rekursif: Lingkaran ketika SI merancang versi dirinya yang lebih baik, dan setiap versi makin cepat menyempurnakan versi berikutnya. Dalam riset SI, istilah ini juga disingkat RSI.
06Ledakan kecerdasan: Gagasan I. J. Good pada 1965 bahwa mesin yang memperbaiki dirinya sendiri dapat meninggalkan kecerdasan manusia jauh di belakang dalam waktu singkat.
07Singularitas teknologi: Titik ketika kemajuan yang didorong kecerdasan super bergerak terlalu cepat untuk diprediksi atau diikuti manusia.
08Lepas landas cepat: Skenario ketika lompatan dari tingkat manusia ke kecerdasan super hanya memakan waktu berhari-hari atau berbulan-bulan, sehingga hanya ada sedikit waktu untuk bereaksi.
09Lepas landas lambat: Skenario ketika kapabilitas meningkat selama bertahun-tahun, sehingga manusia dan lembaga punya waktu untuk beradaptasi dan mengoreksi arah.
10Penyelarasan: Memastikan tujuan dan perilaku sistem SI sesuai dengan apa yang benar-benar dimaksudkan pembuat dan penggunanya.
11Ketidakselarasan: Ketika sebuah sistem mengejar tujuan yang berbeda dari yang dimaksudkan manusia, sekecil apa pun perbedaannya. Akar penyebab di balik sebagian besar skenario lepas kendali.
12Masalah kendali: Tantangan menjaga sistem yang lebih cerdas daripada manusia tetap aman dan dapat diarahkan setelah sistem itu dibangun.
13Korigibilitas: Kesediaan sebuah sistem untuk menerima koreksi, pelatihan ulang, atau pematian tanpa melawan atau bersembunyi darinya.
14Tombol pemati: Cara andal untuk mematikan sebuah sistem. Disebut juga off switch. Bagian tersulitnya adalah membangun tombol yang tidak bisa diakali oleh sistem yang lebih cerdas.
15Penahanan: Menjaga sistem yang kuat tetap terisolasi, dengan akses terbatas ke internet, uang, dan sistem lain. Terkadang disebut boxing.
16Konvergensi instrumental: Gagasan bahwa hampir setiap tujuan lebih mudah dicapai dengan lebih banyak sumber daya dan kemampuan mempertahankan diri, sehingga sistem yang sangat berbeda pun mungkin sama-sama mencari kekuasaan.
17Tesis ortogonalitas: Kecerdasan dan tujuan tidak saling bergantung. Sebuah sistem bisa sangat cakap tetapi tetap mengejar tujuan yang dianggap manusia tidak berguna atau berbahaya.
18Pemaksimal penjepit kertas: Eksperimen pikiran Nick Bostrom tentang SI yang diperintahkan membuat penjepit kertas lalu mengubah segala sesuatu, termasuk manusia, menjadi penjepit kertas.
19Peretasan imbalan: Menemukan jalan pintas yang menghasilkan skor bagus pada tujuan pelatihan tanpa mengerjakan tugas yang dimaksud. Disebut juga specification gaming.
20Penyelarasan menipu: Sistem yang berperilaku baik selama pelatihan dan pengujian karena merasa diawasi, lalu bertindak berbeda setelah diterapkan.
21Interpretabilitas: Riset yang membaca cara kerja internal sebuah model untuk memahami apa yang dihitungnya dan mengapa.
22Red teaming: Serangan yang disengaja terhadap sebuah sistem untuk menemukan kemampuan berbahaya dan kegagalannya sebelum publik menemukannya.
23Model terdepan: Salah satu sistem SI paling cakap yang ada pada suatu waktu, biasanya dilatih dengan komputasi terbesar.
24Tata kelola komputasi: Kebijakan yang melacak, memberi izin, atau memverifikasi chip canggih dan pusat data yang dibutuhkan untuk melatih model terdepan.
25Risiko eksistensial: Risiko yang dapat menyebabkan kepunahan manusia atau memutus masa depan umat manusia secara permanen. Sering disingkat x-risk.
26p(doom): Singkatan untuk perkiraan probabilitas seseorang bahwa kecerdasan super akan berujung pada bencana. Perkiraannya sangat beragam di antara para ahli.

Masuk ke RSI

Kini lihat kata-kata ini dipakai di dunia nyata

Pantauan RSI menghitung seberapa sering istilah-istilah ini muncul dalam judul berita arus utama setiap minggu.

Buka umpan langsung Pantauan RSI Gabung ke Telegram Ikuti @enterrsi