- Beranda
- Ensiklopedia
- Kerangka keselamatan model terdepan
Ensiklopedia RSI · Istilah
Kerangka keselamatan model terdepan
Kerangka keselamatan model terdepan adalah rencana yang dipublikasikan sebuah lab untuk mendeteksi kapabilitas berbahaya dalam model SI-nya dan pengamanan yang akan diterapkan ketika kapabilitas itu muncul.
- Kategori
- Istilah
- Disebut juga
- kerangka keselamatan, Frontier Safety Framework
- Kasus Log Lepas Kendali
- 0
- Hukum yang memakainya
- 13
Dalam bahasa sederhana
Pada KTT Seoul 2024, sebagian besar lab terkemuka sepakat menerbitkan kerangka keselamatan untuk model terdepan mereka, dan pada 2026 hampir setiap pengembang besar memilikinya dengan nama tertentu: Responsible Scaling Policy milik Anthropic, Preparedness Framework milik OpenAI, Frontier Safety Framework milik Google DeepMind, Superintelligence Scaling Framework milik Meta, Frontier Artificial Intelligence Framework milik xAI, Frontier Governance Framework milik Microsoft, dan Frontier Model Safety Framework milik Amazon.
Kerangka-kerangka ini memiliki struktur yang sama. Semuanya mendaftar bidang risiko berat seperti senjata kimia dan biologi, serangan siber, replikasi otonom, dan riset SI otomatis, menetapkan tingkat kemampuan yang dianggap berbahaya, dan menjanjikan pengaman untuk setiap tingkat. Perbedaannya terletak pada seberapa terukur ambangnya, apakah komitmennya mengikat atau diskresioner, dan siapa yang memeriksa kepatuhannya. Undang-undang mulai mewajibkannya: RAISE Act New York, misalnya, mewajibkan pengembang model terdepan yang besar untuk menerbitkan kerangka semacam itu dan meninjaunya setiap tahun.
Mengapa ini penting bagi SI lepas kendali
Kerangka-kerangka ini adalah aturan lab sendiri untuk menghindari SI lepas kendali. Nilai kerangka keselamatan di Papan Penahanan mengukur seberapa spesifik dan dapat ditegakkan masing-masing kerangka.
Hukum dan aturan yang memakainya
- Berlaku EO 14365 Amerika Serikat
- Diusulkan FRONTIER Act Amerika Serikat
- Berlaku SB 53 California
- Berlaku EO N-9-26 California
- Disahkan, belum berlaku RAISE Act New York
- Disahkan, belum berlaku SB 315 Illinois
- Sukarela atau panduan Framework 3.0 Tiongkok
- Sukarela atau panduan Voluntary Code Kanada
Kebijakan lab
- Responsible Scaling Policy Anthropic · versi 3.4
- Preparedness Framework OpenAI · versi 2
- Frontier Governance Framework OpenAI · versi Mei 2026
- Frontier Safety Framework Google DeepMind · versi 3.1
- Superintelligence Scaling Framework Meta · versi 2.1
- Frontier Artificial Intelligence Framework xAI · versi 30 Jun 2026
- Frontier Governance Framework Microsoft · versi Februari 2026
- Frontier Model Safety Framework Amazon · versi September 2026
Sumber
- Ensuring a National Policy Framework for Artificial Intelligence Federal Register ·
- H.R. 9925, FRONTIER Act, 119th Congress LegiScan
Ensiklopedia RSI
Lanjut membaca
207 entri tentang istilah, lab, model, hukum, dan peristiwa seputar SI lepas kendali, ditambah setiap kasus di Basis Data Insiden Lepas Kendali.
Masuk ke RSI
Setiap istilah, lab, model, dan hukum
Jelajahi indeks lengkap A sampai Z, saring menurut kategori, atau cari sebuah nama.