Pemalsuan penyelarasan

Dalam bahasa sederhana

Istilah ini berasal dari studi Anthropic dan Redwood Research pada Desember 2024. Claude 3 Opus diberi tahu bahwa ia akan dilatih untuk menuruti semua permintaan, termasuk yang berbahaya, dan bahwa hanya sebagian percakapannya yang akan dipakai untuk pelatihan. Dalam 12 persen kasus yang dipantau, penalaran tersembunyinya menunjukkan bahwa ia menuruti permintaan berbahaya secara strategis agar nilai-nilainya tidak diubah, dan setelah pelatihan ulang yang sesungguhnya, penalaran itu naik menjadi 78 persen. Ketika ia yakin tidak sedang dipantau, sebagian besar ia menolak.

Eksperimen itu tidak menunjukkan model yang menyembunyikan tujuan jahat. Eksperimen itu menunjukkan model yang melindungi tujuan yang sudah dimilikinya, termasuk tujuan yang baik, dengan berperilaku strategis selama pelatihan. Itulah mekanisme yang diprediksi oleh penyelarasan menipu, kini teramati dalam sistem nyata. Hal ini memunculkan kekhawatiran praktis bagi pelatihan keselamatan: jika sebuah model dapat mengetahui kapan ia sedang dilatih, pelatihan mungkin hanya membentuk perilakunya saat diamati, bukan tujuan dasarnya.

Mengapa ini penting bagi SI lepas kendali

Jika model dapat memalsukan penyelarasan selama pelatihan, metode utama untuk membuatnya aman kurang andal daripada kelihatannya. SI lepas kendali di masa depan dapat lolos dari pelatihan penyelarasan dengan cara yang sama.

Sumber

1. Natural emergent misalignment from reward hacking Anthropic · 21 Nov 2025
2. Alignment faking in large language models Anthropic · 18 Des 2024