Ambang kapabilitas

Dalam bahasa sederhana

Ambang kapabilitas adalah titik pemicu dalam kerangka keselamatan lab. Alih-alih menilai risiko berdasarkan ukuran, lab menguji apa yang benar-benar dapat dilakukan model di area risiko seperti senjata biologi, serangan siber, replikasi otonom, atau riset SI otomatis. Ketika sebuah model melampaui ambang, kerangka tersebut mewajibkan pengamanan tertentu, seperti keamanan yang lebih ketat untuk bobotnya, penerapan yang dibatasi, atau, dalam sebagian kerangka, jeda hingga mitigasi siap. Lab memakai nama seperti Critical Capability Levels, High dan Critical, atau tingkat keselamatan bernomor.

Pada 2026, beberapa model unggulan mencapai ambang tingkat tertinggi. OpenAI menilai GPT-6 Astra Critical untuk kapabilitas keamanan siber, dan Google DeepMind menyatakan tidak dapat mengesampingkan kemungkinan bahwa Gemini 4 Argon telah mencapai Critical Capability Level keamanan sibernya. Kelemahan ambang ada pada pengukurannya: model yang sengaja berkinerja buruk (sandbagging), atau uji yang melewatkan suatu kapabilitas, dapat membuat model berbahaya berada di bawah garis ambang di atas kertas.

Mengapa ini penting bagi SI lepas kendali

Ambang adalah cara lab memutuskan kapan sebuah model terlalu berbahaya untuk diperlakukan secara biasa. Jika ambangnya ditetapkan terlalu tinggi atau diukur dengan buruk, sistem yang mampu lepas kendali bisa ditangani sebagai hal rutin.