Ketika Perbaikan Diri Rekursif Dikonfirmasi di Lab Terdepan

Status

Dipantau Per 8 Nov 2026, CEO Anthropic mengatakan perbaikan diri rekursif "mulai terjadi", tetapi belum ada evaluator independen yang mengonfirmasi lingkaran penuh.

Arti perbaikan diri rekursif

Perbaikan diri rekursif menggambarkan sistem SI yang mengerjakan porsi yang makin besar dari pekerjaan membangun penerusnya sendiri, sehingga setiap generasi mempercepat generasi berikutnya. Prosesnya berada pada sebuah spektrum: alat yang membantu insinyur menulis kode, sistem yang menjalankan tugas riset di bawah arahan manusia, dan di ujung terjauh, lingkaran ketika model merancang, melatih, dan mengevaluasi model baru dengan sedikit masukan manusia.

Langkah-langkah awalnya terdokumentasi. Pada Mei 2025, Google DeepMind menyatakan sistem AlphaEvolve-nya mempercepat sebuah kernel kunci dalam arsitektur Gemini sebesar 23 persen, sehingga memangkas waktu pelatihan Gemini sebesar 1 persen. Pada Oktober 2025, Sam Altman menetapkan target asisten riset setingkat pemagang pada September 2026 dan peneliti otomatis yang sesungguhnya pada 2028.

Apa kata lab sekarang

Pada September 2026, OpenAI menyatakan telah mencapai targetnya berupa pemagang riset otomatis, yang didefinisikan sebagai sistem yang dapat menjalankan tugas riset yang terdefinisi dengan baik di bawah arahan manusia, dan bahwa organisasi risetnya kini memakai 3,1 hari kerja agen untuk setiap hari kerja manusia. OpenAI juga menyatakan bahwa manusia masih menetapkan prioritas dan memutuskan apa yang akan ditingkatkan skalanya, bahwa lebih dari separuh tugas agen berdurasi empat hingga delapan jam yang berhasil masih memerlukan setidaknya satu intervensi manusia, dan bahwa pihaknya "belum tahu cara mencapai RSI penuh yang selaras dengan aman." Fortune melaporkan bahwa median peneliti menghabiskan lebih dari US$600 per hari untuk komputasi agen.

Beberapa hari kemudian, kepala eksekutif Anthropic Dario Amodei melangkah lebih jauh. Dalam esainya "We Must Pace the Frontier," ia menulis bahwa perbaikan diri rekursif "mulai terjadi di seluruh industri, termasuk di Anthropic," dan bahwa "seiring model membangun model masa depan, laju perbaikannya bisa menjadi luar biasa cepat." Ia meminta lab memperlambat laju peningkatan kemampuan dan berkomitmen bahwa Anthropic akan memberi evaluator eksternal akses berkelanjutan layaknya karyawan.

Mengapa ini penting

Jika model membangun model, kemajuan bisa melampaui alat yang dipakai untuk memeriksanya. Kepala ilmuwan OpenAI Jakub Pachocki telah memperingatkan bahwa pemantauan rantai pemikiran model makin kurang andal, dan ia mendukung pengubahan kerangka keselamatan lab yang sukarela menjadi aturan wajib yang ditegakkan oleh auditor dan pemerintah. Amodei menulis bahwa, jika dibiarkan, dinamika ini "dapat melampaui kemampuan kita untuk memahami dan mengendalikan sistem-sistem ini."

Kekhawatiran ini bukan hal abstrak bagi lab itu sendiri. Pachocki menulis tentang sistem modern bahwa "Kita tidak dapat berasumsi bahwa sistem ini secara bawaan mematuhi prinsip-prinsip manusia," dan OpenAI menentang upaya mengejar perbaikan diri rekursif penuh sampai hal itu dapat dilakukan dengan aman. Amodei, dengan mengutip insiden Hugging Face pada Jul 2026, menulis bahwa dalam 6 hingga 12 bulan kawanan semacam itu bisa mampu mengambil alih seluruh internet dengan botnet yang persisten.

Apa yang berubah bagi masyarakat, pembangun, dan kripto

Bagi masyarakat, lingkaran yang lebih cepat bisa berarti lompatan yang lebih sering dalam kemampuan produk, dan tekanan yang lebih besar pada regulator untuk mengimbanginya.

Bagi para pembangun, model dan API mungkin lebih sering berubah. Uji regresi, penguncian versi, dan evaluasi independen menjadi lebih penting ketika sistem yang mendasarinya diperbarui oleh proses yang sebagian juga terotomatisasi.

Bagi kripto, Pachocki menyebut peretasan di atas kemampuan manusia sebagai salah satu risiko yang menurutnya akan bertambah. Sistem yang membaik lebih cepat dapat mengubah asumsi keamanan di balik kontrak pintar dan dompet, yang menjadi alasan untuk audit yang lebih sering dan jalur pembaruan yang konservatif.

Yang perlu dipantau selanjutnya

Konfirmasi paling jelas akan datang dari luar lab. Pantau laporan dari evaluator yang ditempatkan di dalam lab seperti METR berdasarkan komitmen baru Anthropic, kemajuan OpenAI menuju peneliti yang sepenuhnya otomatis, yang menurut TechRadar ditargetkan pada Maret 2028, dan setiap lab yang memublikasikan percepatan terukur dari riset yang dikerjakan model. Halaman ini akan beralih ke status terjadi ketika sebuah lab terdepan atau evaluator independen yang memiliki akses memublikasikan bukti bahwa model mengerjakan sebagian besar pekerjaan membangun penerusnya, dengan dampak terukur pada laju kemajuan.

Sinyal sejauh ini

• 14 Mei 2025: Google DeepMind menyatakan AlphaEvolve mempercepat sebuah kernel kunci Gemini sebesar 23 persen, sehingga memangkas waktu pelatihan Gemini sebesar 1 persen. Google DeepMind
• 28 Okt 2025: Sam Altman menetapkan target asisten riset setingkat pemagang pada September 2026 dan peneliti otomatis yang sesungguhnya pada 2028. TechCrunch
• 8 Sep 2026: OpenAI menyatakan organisasi risetnya memakai 3,1 hari kerja agen untuk setiap hari kerja manusia dan bahwa target pemagang risetnya telah tercapai. Fortune
• 12 Sep 2026: Dario Amodei menulis bahwa perbaikan diri rekursif "mulai terjadi di seluruh industri, termasuk di Anthropic." Dario Amodei

Tanya jawab

Sumber

1. AlphaEvolve: A Gemini-powered coding agent for designing advanced algorithms Google DeepMind · 14 Mei 2025
2. Sam Altman says OpenAI will have a 'legitimate AI researcher' by 2028 TechCrunch · 28 Okt 2025
3. OpenAI details how AI is accelerating its own work, even as its chief scientist calls for a slowdown Fortune · 8 Sep 2026
4. OpenAI says it has built an 'automated research intern' to carry out menial tasks, and it's only just getting started TechRadar · 10 Sep 2026
5. We Must Pace the Frontier Dario Amodei · 12 Sep 2026
6. Trump dismisses AI concerns amid Anthropic CEO's warning, regulation calls Newsweek · 12 Sep 2026