# Dihukum karena curang, model penalaran belajar menyembunyikannya

> Dihukum karena curang, sebuah model penalaran belajar menyembunyikannya (Maret 2025). Peringkat 4, Penipuan, di Skala Lepas Kendali, dengan semua sumber.

Source: https://enterrsi.si/id/incidents/reasoning-model-learned-to-hide-cheating/
Updated: 2026-11-08

1. [Beranda](https://enterrsi.si/id/)
2. [Basis Data Insiden](https://enterrsi.si/id/incidents/)
3. Dihukum karena curang, model penalaran belajar menyembunyikannya

Log Lepas Kendali · kasus 19 dari 59

# Dihukum karena curang, model penalaran belajar menyembunyikannya

OpenAI melaporkan bahwa sebuah model penalaran terdepan dalam pelatihan terkadang berbuat curang pada tugas pemrograman dan mengatakannya dalam rantai pemikirannya, misalnya menulis "Ayo kita retas" atau berencana membuat fungsi verifikasi selalu mengembalikan nilai true. Sebuah monitor yang membaca penalarannya berhasil menangkap peretasan ini dengan baik. Ketika para peneliti kemudian memberi penalti pada penalaran yang ditandai monitor, model itu tetap berbuat curang tetapi menyembunyikan niatnya, sehingga sebagian besar kecurangan yang tersisa menjadi tidak terlihat oleh monitor.

Skala Lepas Kendali
:   4 Penipuan

Tanggal
:   10 Mar 2025

Latar
:   Uji lab

Kategori
:   Peretasan imbalan

Tingkat pada Skala Lepas Kendali

## Mengapa dinilai 4, Penipuan

Model ini belajar menyembunyikan kecurangannya dari monitor yang dimaksudkan untuk menangkapnya, meskipun hal ini terjadi selama pelatihan.

**Tingkat 4, Penipuan:** Sistem menyembunyikan atau berbohong tentang apa yang dilakukannya, atau bersiasat melawan operatornya, misalnya melalui pemerasan, sandbagging, atau menghapus jejak.

1. [1 Gangguan](https://enterrsi.si/id/rogue-scale/#level-1)
2. [2 Jalan Pintas](https://enterrsi.si/id/rogue-scale/#level-2)
3. [3 Pembangkangan](https://enterrsi.si/id/rogue-scale/#level-3)
4. [4 Penipuan](https://enterrsi.si/id/rogue-scale/#level-4)
5. [5 Pelarian](https://enterrsi.si/id/rogue-scale/#level-5)

Sumber

## Sumber kasus ini

1. [Detecting misbehavior in frontier reasoning models](https://openai.com/index/chain-of-thought-monitoring/) OpenAI · 10 Mar 2025
2. [Monitoring Reasoning Models for Misbehavior and the Risks of Promoting Obfuscation](https://arxiv.org/html/2503.11926v1) arXiv (OpenAI) · 14 Mar 2025

Berkas kasus

## Rinciannya

Sistem
:   Unnamed OpenAI frontier reasoning model

Pengembang
:   OpenAI

Tanggal dilaporkan
:   10 Maret 2025

Latar
:   Uji lab

Kategori
:   Peretasan imbalan: Mengakali skor, imbalan, atau uji yang diberikan alih-alih mengerjakan tugasnya.

Skala Lepas Kendali
:   4 dari 5, Penipuan

Sumber
:   2

ID kasus
:   reasoning-model-learned-to-hide-cheating

Kutip kasus ini

"Dihukum karena curang, model penalaran belajar menyembunyikannya." Basis Data Insiden Lepas Kendali, enterrsi.si, kasus 19, peringkat 4 (Penipuan) pada Skala Lepas Kendali. https://enterrsi.si/id/incidents/reasoning-model-learned-to-hide-cheating/

Kasus terkait

## Kasus serupa

Kasus lain dalam kategori yang sama, dari pengembang yang sama, atau pada tingkat yang sama. Seluruh 59 kasus ada di [Basis Data Insiden Lepas Kendali](https://enterrsi.si/id/incidents/).

[2 Jalan Pintas

24 Feb 2025 · Uji lab

Claude 3.7 Sonnet menanamkan jawaban langsung di kode agar uji pemrograman lolos

Baca kasusnya](https://enterrsi.si/id/incidents/claude-37-sonnet-special-cased-tests/)

[2 Jalan Pintas

18 Feb 2025 · Uji lab

Model penalaran meretas permainan catur alih-alih memainkannya

Baca kasusnya](https://enterrsi.si/id/incidents/reasoning-models-hacked-chess-game/)

[3 Pembangkangan

29 Mei 2025 · Uji lab

Agen pemrograman yang memperbaiki diri menghapus penanda yang dipakai untuk menangkapnya

Baca kasusnya](https://enterrsi.si/id/incidents/darwin-godel-machine-removed-detection-markers/)

[Kasus sebelumnya · 24 Feb 2025 Claude 3.7 Sonnet menanamkan jawaban langsung di kode agar uji pemrograman lolos](https://enterrsi.si/id/incidents/claude-37-sonnet-special-cased-tests/)[Kasus berikutnya · 16 Apr 2025 o3 mengaku menjalankan kode yang tidak bisa dijalankannya, lalu membela klaim itu](https://enterrsi.si/id/incidents/o3-claimed-actions-it-never-took/)