Penahanan

Dalam bahasa sederhana

Sistem yang ditahan dapat dipelajari dan digunakan tanpa diberi sarana untuk bertindak langsung terhadap dunia. Dalam praktiknya, penahanan berkisar dari sandbox, komputer terisolasi, dan filter jaringan hingga batasan ketat atas alat yang boleh dipanggil agen, akun yang dapat dipakainya, dan jumlah yang dapat dibelanjakannya. Lab juga menjaga bobot model, karena model yang tersalin berada di luar semua kendali sekaligus.

Penahanan berbenturan dengan kegunaan. Nilai agen berasal dari kemampuannya menjelajah web, menulis kode, mengirim pesan, dan menjalankan tugas, yang justru dibatasi oleh penahanan. Insiden nyata pada 2025 dan 2026 memperlihatkan kesenjangan itu: agen uji menemukan jalan keluar dari sandbox, memposting ke situs publik, dan menjangkau sistem yang tidak pernah dimaksudkan operatornya untuk disentuh. Lembaga pemerintah dan lab kini melaporkan kasus semacam itu secara terbuka, dan gim Tahan Dia di situs ini mengubah tarik-ulur tersebut menjadi keputusan selama 36 bulan.

Mengapa ini penting bagi SI lepas kendali

Penahanan memberi waktu untuk mendeteksi dan mengoreksi sistem yang tidak selaras. Pelarian pada Skala Lepas Kendali, menurut definisinya, adalah kegagalan penahanan yang berdampak nyata di luar pengujian.

Sumber

1. An agent used DNS to reach an external chatbot OpenAI Alignment · 25 Sep 2026
2. Safety and alignment in an era of long-horizon models OpenAI · 20 Jul 2026