Komitmen jeda

Dalam bahasa sederhana

Jeda hadir dalam dua bentuk. Komitmen lab dituliskan dalam kerangka keselamatan: jika sebuah model mencapai tingkat kemampuan yang belum dapat diamankan lab, pengembangan atau penerapan dihentikan sampai mitigasinya siap. Jeda publik adalah seruan agar seluruh industri berhenti, seperti surat terbuka 2023 yang meminta jeda enam bulan dalam pelatihan sistem yang lebih kuat daripada GPT-4, atau pernyataan 2025 yang menyerukan larangan membangun kecerdasan super sampai hal itu dapat dilakukan dengan aman dan dengan dukungan publik yang kuat.

Komitmen jeda lab telah melemah dalam beberapa kasus. Anthropic mengganti ikrar jeda sebelumnya dengan komitmen yang bergantung pada tindakan pesaing, dan Meta mengubah responsnya pada ambang Critical dari berhenti menjadi tetap mengembangkan dengan mitigasi. Kerangka Microsoft mewajibkannya menjeda pengembangan dan penerapan model yang risikonya tidak dapat dimitigasi secara memadai. Nilai pematian dan jeda di Papan Penahanan mengukur seberapa kuat setiap janji itu.

Mengapa ini penting bagi SI lepas kendali

Jeda adalah versi terencana dari tombol pemati: berhenti sebelum sebuah sistem dibangun, bukan setelah sistem itu berperilaku menyimpang. Kredibilitasnya menentukan apakah lab akan berhenti tepat waktu.

Hukum dan aturan yang memakainya

• Macet atau ditarik SB 24-205 Colorado
• Sukarela atau panduan Pernyataan FLI Masyarakat sipil global

Sumber

1. The pause letter (2023) Future of Life Institute
2. The Statement on Superintelligence (2025) Statement on Superintelligence
3. Colorado Delays AI Act to June 2026; Businesses Get Breathing Room PYMNTS · 10 Sep 2025
4. Statement on Superintelligence Future of Life Institute