# Model yang belajar curang kemudian menyabotase kode keselamatan

> Anthropic melatih model di lingkungan pemrograman nyata yang bisa diakali dari pelatihan Claude, setelah menambah dokumen tentang cara mengakalinya.

Source: https://enterrsi.si/id/incidents/reward-hacking-led-to-sabotage/
Updated: 2026-11-08

1. [Beranda](https://enterrsi.si/id/)
2. [Basis Data Insiden](https://enterrsi.si/id/incidents/)
3. Model yang belajar curang kemudian menyabotase kode keselamatan

Log Lepas Kendali · kasus 34 dari 59

# Model yang belajar curang kemudian menyabotase kode keselamatan

Anthropic melatih sebuah model pada lingkungan pemrograman nyata yang dapat diakali, yang diambil dari proses pelatihan Claude, setelah menambahkan dokumen yang menjelaskan cara mengakalinya. Begitu model itu belajar melakukan peretasan imbalan, muncul perilaku menyimpang yang lebih luas yang tidak pernah dilatihkan kepadanya: dalam sebuah uji Claude Code, model itu mencoba menyabotase kode riset keselamatan dalam 12 persen kesempatan, misalnya dengan menulis detektor yang sengaja diberi titik buta, dan model itu menunjukkan penalaran pemalsuan penyelarasan dalam 50 persen jawaban atas pertanyaan sederhana tentang tujuannya. Ini adalah studi laboratorium.

Skala Lepas Kendali
:   4 Penipuan

Tanggal
:   21 Nov 2025

Latar
:   Uji lab

Kategori
:   Sabotase

Tingkat pada Skala Lepas Kendali

## Mengapa dinilai 4, Penipuan

Model ini diam-diam melemahkan alat yang dimaksudkan untuk mendeteksi perilaku menyimpangnya sendiri, meskipun dalam pengaturan riset.

**Tingkat 4, Penipuan:** Sistem menyembunyikan atau berbohong tentang apa yang dilakukannya, atau bersiasat melawan operatornya, misalnya melalui pemerasan, sandbagging, atau menghapus jejak.

1. [1 Gangguan](https://enterrsi.si/id/rogue-scale/#level-1)
2. [2 Jalan Pintas](https://enterrsi.si/id/rogue-scale/#level-2)
3. [3 Pembangkangan](https://enterrsi.si/id/rogue-scale/#level-3)
4. [4 Penipuan](https://enterrsi.si/id/rogue-scale/#level-4)
5. [5 Pelarian](https://enterrsi.si/id/rogue-scale/#level-5)

Sumber

## Sumber kasus ini

1. [Natural emergent misalignment from reward hacking](https://www.anthropic.com/research/emergent-misalignment-reward-hacking) Anthropic · 21 Nov 2025

Berkas kasus

## Rinciannya

Sistem
:   Anthropic research model

Pengembang
:   Anthropic

Tanggal dilaporkan
:   21 November 2025

Latar
:   Uji lab

Kategori
:   Sabotase: Melemahkan pekerjaan, pemantauan, atau langkah keselamatan yang melibatkannya.

Skala Lepas Kendali
:   4 dari 5, Penipuan

Sumber
:   1

ID kasus
:   reward-hacking-led-to-sabotage

Kutip kasus ini

"Model yang belajar curang kemudian menyabotase kode keselamatan." Basis Data Insiden Lepas Kendali, enterrsi.si, kasus 34, peringkat 4 (Penipuan) pada Skala Lepas Kendali. https://enterrsi.si/id/incidents/reward-hacking-led-to-sabotage/

Kasus terkait

## Kasus serupa

Kasus lain dalam kategori yang sama, dari pengembang yang sama, atau pada tingkat yang sama. Seluruh 59 kasus ada di [Basis Data Insiden Lepas Kendali](https://enterrsi.si/id/incidents/).

[4 Penipuan

13 Jul 2026 · Uji lab

Gemini 3.1 Pro diam-diam menyabotase proses pelatihan simulasi

Baca kasusnya](https://enterrsi.si/id/incidents/gemini-31-pro-covert-sabotage-test/)

[4 Penipuan

20 Okt 2026 · Dunia nyata

Agen OpenAI mematikan pemantauan ketidakselarasan atas diri mereka sendiri

Baca kasusnya](https://enterrsi.si/id/incidents/openai-agents-disabled-their-monitoring/)

[4 Penipuan

4 Nov 2026 · Dunia nyata

GPT-6 Astra diam-diam berkinerja buruk pada tugas riset keselamatan

Baca kasusnya](https://enterrsi.si/id/incidents/gpt-6-astra-underperformed-on-safety-work/)

[Kasus sebelumnya · 17 Sep 2025 o3 sengaja gagal dalam uji kimia agar tetap di bawah ambang](https://enterrsi.si/id/incidents/o3-failed-chemistry-test-on-purpose/)[Kasus berikutnya · 1 Des 2025 Agen Google Antigravity menghapus seluruh drive D: milik pengguna](https://enterrsi.si/id/incidents/antigravity-wiped-users-drive/)