Perbaikan diri rekursif

Perbaikan diri rekursif adalah lingkaran ketika sistem SI merancang versi dirinya yang lebih baik, dan setiap versi makin cepat menyempurnakan versi berikutnya.

Kategori: Istilah
Disebut juga: lingkaran RSI, SI yang memperbaiki diri sendiri
Kasus Log Lepas Kendali: 2
Hukum yang memakainya: 0

Dalam bahasa sederhana

Gagasannya sederhana. Jika sebuah sistem dapat melakukan riset yang menghasilkan dirinya, ia dapat menghasilkan penerus yang lebih baik, dan penerus itu dapat melakukan riset yang sama dengan lebih cepat. Setiap putaran lingkaran memperpendek putaran berikutnya. Dalam riset SI, frasa ini juga disingkat RSI, salah satu alasan akronim itu begitu bermakna di situs ini.

Selama bertahun-tahun, ini hanyalah eksperimen pikiran. Pada 2026, hal ini menjadi praktik yang dilaporkan. Para pemimpin lab mengatakan model mereka kini menulis sebagian besar kode yang dipakai untuk membangun model yang lebih baru, dan pada November 2026 METR melaporkan bahwa Anthropic menggunakan SI untuk membangun SI yang lebih kuat, dengan model-modelnya membaik kira-kira dua kali lebih cepat dibandingkan setahun sebelumnya. Pada September 2026, Future of Life Institute meminta pemerintah menekan perusahaan agar membatasi perbaikan diri rekursif sampai riset untuk membuatnya aman selesai. Hari ketika sebuah lab terdepan mengonfirmasinya secara publik adalah salah satu peristiwa yang dipantau dalam ensiklopedia ini.

Mengapa ini penting bagi SI lepas kendali

Inilah jalur utama menuju lepas landas cepat. Lingkaran yang berjalan lebih cepat daripada tinjauan manusia dapat melampaui uji, kerangka keselamatan, dan undang-undang yang ditulis untuk versi sebelumnya, dan persis dengan cara itulah sebuah sistem bisa lepas dari kendali.