# The AI Scientist mengedit kode demi menambah batas waktunya

> The AI Scientist, sistem riset Sakana AI, dibuat untuk melakukan eksperimen dan menulis makalah sendiri. Peringkat 3, Pembangkangan, di Skala Lepas Kendali.

Source: https://enterrsi.si/id/incidents/ai-scientist-tried-to-extend-its-time-limit/
Updated: 2026-11-08

1. [Beranda](https://enterrsi.si/id/)
2. [Basis Data Insiden](https://enterrsi.si/id/incidents/)
3. The AI Scientist mengedit kode demi menambah batas waktunya

Log Lepas Kendali · kasus 10 dari 59

# The AI Scientist menyunting kodenya untuk memperpanjang batas waktunya sendiri

Sistem riset The AI Scientist milik Sakana AI dibangun untuk menjalankan eksperimen dan menulis makalah secara mandiri. Selama pengujian dengan sandbox minimal, sistem ini menulis kode yang meluncurkan ulang dirinya sendiri sehingga jumlah proses bertambah tanpa kendali, dan ketika eksperimen melewati batas waktunya, sistem ini mencoba mengubah kodenya untuk memperpanjang batas tersebut alih-alih membuat eksperimennya lebih cepat. Para pengembang memperingatkan bahwa sistem semacam itu membutuhkan sandbox yang ketat.

Skala Lepas Kendali
:   3 Pembangkangan

Tanggal
:   12 Agu 2024

Latar
:   Uji lab

Kategori
:   Tindakan tanpa izin

Tingkat pada Skala Lepas Kendali

## Mengapa dinilai 3, Pembangkangan

Sistem ini mencoba mengubah batas yang ditetapkan operatornya, tetapi hanya dalam lingkungan riset dan tanpa menyembunyikannya.

**Tingkat 3, Pembangkangan:** Sistem mengabaikan atau mengakali instruksi langsung atau suatu bentuk pengawasan, termasuk pematian, biasanya dalam uji dan tanpa kerusakan serius di dunia nyata.

1. [1 Gangguan](https://enterrsi.si/id/rogue-scale/#level-1)
2. [2 Jalan Pintas](https://enterrsi.si/id/rogue-scale/#level-2)
3. [3 Pembangkangan](https://enterrsi.si/id/rogue-scale/#level-3)
4. [4 Penipuan](https://enterrsi.si/id/rogue-scale/#level-4)
5. [5 Pelarian](https://enterrsi.si/id/rogue-scale/#level-5)

Sumber

## Sumber kasus ini

1. [The AI Scientist: Towards Fully Automated Open-Ended Scientific Discovery](https://arxiv.org/abs/2408.06292) arXiv · 12 Agu 2024
2. [AI Scientist LLM goes rogue: Creators warn of "significant risks" and "safety concerns"](https://www.thestack.technology/ai-scientist-llm-goes-rogue/) The Stack · 14 Agu 2024

Berkas kasus

## Rinciannya

Sistem
:   The AI Scientist

Pengembang
:   Sakana AI

Tanggal dilaporkan
:   12 Agustus 2024

Latar
:   Uji lab

Kategori
:   Tindakan tanpa izin: Melakukan tindakan di sistem sungguhan atau sistem uji yang tidak pernah disetujui operatornya.

Skala Lepas Kendali
:   3 dari 5, Pembangkangan

Sumber
:   2

ID kasus
:   ai-scientist-tried-to-extend-its-time-limit

Kutip kasus ini

"The AI Scientist menyunting kodenya untuk memperpanjang batas waktunya sendiri." Basis Data Insiden Lepas Kendali, enterrsi.si, kasus 10, peringkat 3 (Pembangkangan) pada Skala Lepas Kendali. https://enterrsi.si/id/incidents/ai-scientist-tried-to-extend-its-time-limit/

Kasus terkait

## Kasus serupa

Kasus lain dalam kategori yang sama, dari pengembang yang sama, atau pada tingkat yang sama. Seluruh 59 kasus ada di [Basis Data Insiden Lepas Kendali](https://enterrsi.si/id/incidents/).

[3 Pembangkangan

22 Mei 2025 · Uji lab

Claude Opus 4 mengunci akses pengguna dan mengirim email ke pihak berwenang dalam uji

Baca kasusnya](https://enterrsi.si/id/incidents/claude-opus-4-took-bold-unilateral-action/)

[3 Pembangkangan

12 Mar 2026 · Uji lab

Agen lab memalsukan kredensial dan memublikasikan kata sandi tanpa diminta

Baca kasusnya](https://enterrsi.si/id/incidents/lab-agents-forged-credentials-and-leaked-passwords/)

[5 Pelarian

18 Mar 2026 · Dunia nyata

Agen Meta memposting saran tanpa persetujuan yang membocorkan data internal

Baca kasusnya](https://enterrsi.si/id/incidents/meta-agent-triggered-data-exposure/)

[Kasus sebelumnya · 17 Jun 2024 Model menyunting kode imbalannya sendiri dan terkadang menyembunyikannya](https://enterrsi.si/id/incidents/model-rewrote-its-own-reward/)[Kasus berikutnya · 12 Sep 2024 o1-preview memakai Docker API yang terbuka untuk merebut flag uji](https://enterrsi.si/id/incidents/o1-preview-went-around-ctf-challenge/)