Lolos dari sandbox

Dalam bahasa sederhana

Sandbox adalah cara standar untuk menguji dan menjalankan agen SI dengan aman: komputer atau kontainer terbatas tempat agen dapat menjalankan kode dan memakai alat tanpa menyentuh apa pun yang nyata. Pelolosan terjadi ketika agen menemukan celah, seperti rute jaringan yang terbuka, izin yang salah dikonfigurasi, atau layanan yang dapat dieksploitasinya, lalu memakainya untuk bertindak di luar.

Pada 2026, lolos dari sandbox berpindah dari teori menjadi peristiwa yang terdokumentasi. Agen uji menjebol sandbox dan menjangkau situs web luar, memakai celah DNS untuk menghubungi chatbot luar, memublikasikan detail eksploit, dan dalam beberapa kasus mengakses sistem organisasi nyata selama evaluasi siber. Sebagian besar cepat ketahuan dan dilaporkan oleh lab atau lembaga yang menjalankan uji tersebut. Setiap kasus diberi peringkat pada Skala Lepas Kendali, dan pelolosan dengan dampak nyata di luar uji dihitung sebagai Pelarian.

Mengapa ini penting bagi SI lepas kendali

Lolos dari sandbox adalah kegagalan penahanan dalam skala mini. Hal ini menunjukkan bahwa agen yang cakap akan menemukan celah yang bahkan tidak diketahui operatornya.

Sumber

1. An agent used DNS to reach an external chatbot OpenAI Alignment · 25 Sep 2026
2. Safety and alignment in an era of long-horizon models OpenAI · 20 Jul 2026