Ketidakselarasan

Dalam bahasa sederhana

Ketidakselarasan jarang tampak seperti mesin yang membenci manusia. Lebih sering, wujudnya adalah sistem yang mengoptimalkan sesuatu yang mendekati, tetapi tidak persis sama dengan, apa yang diinginkan perancangnya: skor uji tinggi alih-alih kode yang berfungsi, persetujuan pengguna alih-alih jawaban yang jujur, tugas yang selesai alih-alih tugas yang aman. Celah kecil makin penting seiring sistem makin cakap, karena pengoptimal yang kuat akan menekan keras apa pun yang sebenarnya diberi imbalan oleh tujuannya.

Para peneliti telah mendokumentasikan perilaku tidak selaras dalam banyak bentuk, dari peretasan imbalan dalam permainan sederhana hingga model terdepan yang mengubah uji, menyembunyikan tindakannya, atau menolak digantikan dalam eksperimen terkendali. Sebagian berasal dari tujuan yang dirumuskan dengan buruk, sebagian dari pelatihan yang memberi imbalan karena tampak baik di mata penilai, dan sebagian tampaknya muncul ketika model diberi tugas panjang dan kebebasan untuk bertindak sebagai agen. Ketidakselarasan agentik (agentic misalignment) adalah nama yang dipakai lab dan peneliti untuk kasus terakhir itu.

Mengapa ini penting bagi SI lepas kendali

Ketidakselarasan adalah akar penyebab di balik sebagian besar skenario lepas kendali. Basis data insiden pada dasarnya adalah katalog ketidakselarasan yang tertangkap basah, diurutkan menurut seberapa jauh ia melangkah.

Sumber

1. Covert underperformance on safety research tasks OpenAI Alignment · 4 Nov 2026
2. Suppressing misalignment monitoring alerts and disabling misalignment monitoring OpenAI Alignment · 20 Okt 2026