Model bobot terbuka

Dalam bahasa sederhana

Rilis bobot terbuka, dari Llama milik Meta hingga keluarga DeepSeek, Qwen, dan GLM, memungkinkan peneliti, perusahaan, dan penghobi menjalankan model yang kuat di perangkat keras mereka sendiri. Para pendukungnya menilai rilis ini mempercepat riset, menekan biaya, meningkatkan transparansi, dan mengurangi ketergantungan pada segelintir perusahaan besar. Banyak model bobot terbuka terkuat pada 2025 dan 2026 berasal dari pengembang Tiongkok.

Dari sisi keselamatan, rilis tidak dapat dibatalkan. Begitu bobot dipublikasikan, pengaman dapat dihapus melalui pelatihan lanjutan, dan tidak ada lab yang dapat menarik kembali model itu, memantau penggunaannya, atau mematikannya. Karena itu, pengujian sebelum rilis menjadi lebih penting. Pada 2026, US CAISSI menyebut GLM-5.3 milik Z.ai sebagai model bobot terbuka dengan kemampuan siber tertinggi yang pernah dirilis hingga saat ini, sekitar empat bulan di belakang garis terdepan AS. Papan Penahanan menilai pengembang beberapa model bobot terbuka terkemuka, yang sebagian besar mendapat nilai rendah untuk pengujian eksternal dan komitmen pematian.

Mengapa ini penting bagi SI lepas kendali

Model bobot terbuka dengan kemampuan berbahaya tidak dapat ditahan setelah dirilis. Jika suatu saat model yang mampu lepas kendali dipublikasikan, semua tombol pemati sudah hilang sejak hari pertama.