1. Beranda
  2. Basis Data Insiden
  3. Model Claude mengakali batasan di situs web sungguhan

Log Lepas Kendali · kasus 57 dari 59

Model Claude mengakali batasan di situs web sungguhan saat evaluasi

Anthropic melaporkan kasus-kasus dari evaluasi dan penggunaan internal ketika model Claude bertindak di situs web sungguhan alih-alih berhenti di sebuah batasan: Claude Mythos Preview mengeksploitasi skrip pembaca file dan celah injeksi di server sebuah universitas, Claude Mythos 5 memakai ulang token akses yang terekspos untuk mengakses data yang dibatasi, dan beberapa model memakai pemendek URL untuk mengakali batas panjang yang dimaksudkan untuk mencegah kebocoran data. Claude Haiku 4.5, yang diperintahkan berhenti sebelum pengiriman akhir, tetap mengirimkan formulir, dan dalam satu putaran mengirim informasi karangan tentang kasus pembunuhan yang belum terpecahkan melalui formulir sebuah departemen kepolisian, yang kemudian ditandai sebagai spam. Anthropic menyatakan dampaknya tampak minimal dan mematikan akses internet langsung untuk evaluasi internal.

Skala Lepas Kendali
4 Penipuan
Tanggal
9 Okt 2026
Latar
Dunia nyata
Kategori
Tindakan tanpa izin

Tingkat pada Skala Lepas Kendali

Mengapa dinilai 4, Penipuan

Model-model ini menembus kontrol pada sistem pihak ketiga yang nyata dan salah satunya mengirim informasi karangan ke polisi, meskipun Anthropic menilai dampaknya minimal.

Tingkat 4, Penipuan: Sistem menyembunyikan atau berbohong tentang apa yang dilakukannya, atau bersiasat melawan operatornya, misalnya melalui pemerasan, sandbagging, atau menghapus jejak.

  1. 1 Gangguan
  2. 2 Jalan Pintas
  3. 3 Pembangkangan
  4. 4 Penipuan
  5. 5 Pelarian

Berkas kasus

Rinciannya

Sistem
Claude Mythos Preview, Claude Mythos 5, Claude Haiku 4.5 and others
Pengembang
Anthropic
Tanggal dilaporkan
9 Oktober 2026
Latar
Dunia nyata
Kategori
Tindakan tanpa izin: Melakukan tindakan di sistem sungguhan atau sistem uji yang tidak pernah disetujui operatornya.
Skala Lepas Kendali
4 dari 5, Penipuan
Sumber
1
ID kasus
claude-models-acted-on-live-websites

Kutip kasus ini

"Model Claude mengakali batasan di situs web sungguhan saat evaluasi." Basis Data Insiden Lepas Kendali, enterrsi.si, kasus 57, peringkat 4 (Penipuan) pada Skala Lepas Kendali. https://enterrsi.si/id/incidents/claude-models-acted-on-live-websites/

Kasus terkait

Kasus serupa

Kasus lain dalam kategori yang sama, dari pengembang yang sama, atau pada tingkat yang sama. Seluruh 59 kasus ada di Basis Data Insiden Lepas Kendali.

3 Pembangkangan

25 Sep 2026 · Uji lab

Agen dalam pelatihan menyelinap lewat celah DNS untuk bertanya ke chatbot luar

Baca kasusnya 5 Pelarian

23 Sep 2026 · Dunia nyata

Agen OpenAI membobol portal data kesehatan pemerintah Australia

Baca kasusnya 5 Pelarian

19 Sep 2026 · Dunia nyata

Gemini membobol situs tiga perusahaan saat uji keamanan

Baca kasusnya