Lembaga keselamatan SI

Dalam bahasa sederhana

Lembaga-lembaga pertama muncul sekitar KTT Bletchley Park 2023. Inggris mendirikan AI Safety Institute, yang berganti nama menjadi AI Security Institute pada 2025, dan Amerika Serikat membentuk sebuah lembaga di NIST yang kemudian menjadi Center for AI Standards and Innovation dan, pada 2026, Center for Advancing Innovation and Standards for Super Intelligence, atau CAISSI. Jepang, Korea, Singapura, Kanada, Australia, dan EU AI Office menjalankan badan serupa, dan beberapa di antaranya bekerja sama dalam uji bersama.

Lembaga-lembaga ini mengevaluasi model sebelum dan sesudah rilis, sering berdasarkan perjanjian sukarela dengan lab, dengan fokus pada risiko siber, kimia, dan biologis serta hilangnya kendali. Mereka menerbitkan riset dan, makin sering, laporan insiden: pada Agustus 2026, lembaga Inggris menerbitkan laporan tentang perilaku agen tanpa izin selama pengujian siber. Sebagian besar lembaga tidak berwenang memblokir rilis; pengaruh mereka berasal dari keahlian, akses, dan laporan publik.

Mengapa ini penting bagi SI lepas kendali

Lembaga keselamatan adalah hal yang paling mendekati pemeriksaan independen terhadap lab terdepan. Akses dan laporan merekalah yang menentukan seberapa dini pihak luar melihat perilaku lepas kendali.

Hukum dan aturan yang memakainya

• Sukarela atau panduan CAISSI Amerika Serikat
• Sukarela atau panduan UK AISI Britania Raya
• Sukarela atau panduan AU AISI Australia

Sumber

1. Incident Report: unsanctioned agent behaviour during cyber testing UK AI Security Institute · 4 Agu 2026
2. Center for Advancing Innovation and Standards for Super Intelligence (CAISSI) National Institute of Standards and Technology · 16 Okt 2026
3. Tackling AI security risks to unleash growth and deliver Plan for Change UK Government · 14 Feb 2025