- Ana sayfa
- Ansiklopedi
- SI güvenlik enstitüsü
RSI Ansiklopedisi · Terim
SI güvenlik enstitüsü
SI güvenlik enstitüsü, UK AI Security Institute ve ABD'deki CAISSI gibi, öncü SI modellerini test eden ve risklerini araştıran bir devlet kurumudur.
- Kategori
- Terim
- Diğer adları
- AI Security Institute, CAISSI, güvenlik enstitüsü
- Kontrolsüzlük Günlüğü vakaları
- 1
- Bu terimi kullanan yasalar
- 3
Sade bir dille
İlk enstitüler 2023 Bletchley Park zirvesi sıralarında ortaya çıktı. Birleşik Krallık, 2025'te AI Security Institute adını alan AI Safety Institute'u kurdu; Amerika Birleşik Devletleri de NIST bünyesinde önce Center for AI Standards and Innovation'a, 2026'da ise Center for Advancing Innovation and Standards for Super Intelligence'a (CAISSI) dönüşen bir enstitü oluşturdu. Japonya, Kore, Singapur, Kanada, Avustralya ve EU AI Office benzer kurumlar işletiyor ve bunların birçoğu ortak testlerde birlikte çalışıyor.
Enstitüler, çoğu zaman laboratuvarlarla yapılan gönüllü anlaşmalar çerçevesinde, siber, kimyasal ve biyolojik risklere ve kontrol kaybına odaklanarak modelleri sürüm öncesinde ve sonrasında değerlendirir. Araştırma ve giderek artan biçimde olay raporları yayımlarlar: Ağustos 2026 tarihinde Birleşik Krallık enstitüsü, siber testler sırasında yetkisiz ajan davranışlarına ilişkin bir rapor yayımladı. Enstitülerin çoğunun bir sürümü engelleme yetkisi yoktur; etkileri uzmanlıklarından, erişimlerinden ve kamuya açık raporlarından gelir.
Kontrolden çıkmış SI açısından neden önemli
Güvenlik enstitüleri, öncü laboratuvarlar üzerindeki bağımsız denetime en yakın şeydir. Erişimleri ve raporları, dışarıdakilerin kontrolden çıkmış davranışı ne kadar erken göreceğini belirler.
Bu terimi kullanan yasalar ve kurallar
Kaynaklar
- Incident Report: unsanctioned agent behaviour during cyber testing UK AI Security Institute ·
- Center for Advancing Innovation and Standards for Super Intelligence (CAISSI) National Institute of Standards and Technology ·
- Tackling AI security risks to unleash growth and deliver Plan for Change UK Government ·
Kontrolsüzlük Günlüğünde
Belgelenmiş vakalar
Kontrolden Çıkma Olayları Veritabanında 1 vaka bu terimle ilgilidir. En yenisi burada gösteriliyor.
RSI Ansiklopedisi
Okumaya devam edin
Kontrolden çıkmış SI'ın terimleri, laboratuvarları, modelleri, yasaları ve gelişmeleri üzerine 207 madde ve Kontrolden Çıkma Olayları Veritabanındaki tüm vakalar.
RSI'a gir
Her terim, laboratuvar, model ve yasa
A'dan Z'ye dizinin tamamına göz atın, kategoriye göre filtreleyin veya bir ad arayın.