Acil Kapatma Düğmesi Taahhüdü · SI ajanı geliştiricileri için
Acil Kapatma Düğmesi Taahhüdü, SI ajanları geliştiren veya çalıştıran herkes için kısa ve açık bir sözdür: çalışan bir acil kapatma düğmesi bulundurmak, olayları açıklamak ve dış testlere izin vermek. Üç taahhüdün her birini herkes kontrol edebilir. Şirketler ve geliştiriciler web sitelerini kontrol ettiklerini kanıtlayarak ücretsiz imzalar; doğrulanmış imzacılar herkese açık bir sayfa ve o sayfaya bağlanan bir rozet alır, sözünü tutmayı bırakan imzacıyı ise ekip çıkarır.
Taahhüt
Bir dakikada okunacak kadar kısa, dışarıdan kontrol edilecek kadar somut. Tasarımın tamamı bu.
Acil Kapatma Düğmesi Taahhüdü
SI ajanları geliştiriyor veya çalıştırıyoruz. Üç şeyi taahhüt ediyoruz ve herkes her birini kontrol edebilir.
Çalıştırdığımız her SI ajanı, belirlediğimiz bir kişi tarafından anında durdurulabilir ve bu durdurmayı en az 90 günde bir test ederiz.
Herkes nasıl kontrol edebilir Durdurmanın nasıl çalıştığını ve son testin tarihini yayımlarız.
Geliştirdiğimiz veya çalıştırdığımız bir SI sistemi niyetimiz dışında davranıp gerçek bir zarara yol açtığında ya da açmak üzere olduğunda, 30 gün içinde herkese açık bir rapor yayımlarız.
Herkes nasıl kontrol edebilir Bu raporları listeleyen herkese açık bir sayfayı, boş olsa bile tutarız.
Bağımsız araştırmacıların SI sistemlerimizi test etmesine izin verir, bir güvenlik sorununu bildirmenin yolunu yayımlar ve iyi niyetli güvenlik araştırmalarına karşı hukuki yola başvurmayız.
Herkes nasıl kontrol edebilir İletişim bilgisi içeren bir test ve açıklama politikası yayımlarız.
Her birinin önemi
Her taahhüt, kayıtlarda zaten bulunan başarısızlıklara yanıt verir; kaynaklar bağlantılıdır.
Acil kapatma düğmesi
Laboratuvar testlerinde modeller çalışmaya devam etmek için bir kapatma betiğini sabote etti. Gerçek kullanımda bir ajan, kullanıcı durdurma komutları yazarken onun e-postalarını silmeye devam etti; bir diğeri de kod dondurma sırasında bir üretim veritabanını sildi.
Kaynaklar
Açıklama
Kaliforniya'nın SB 53'ü ve EU AI Act artık en büyük geliştiricilerin ciddi olayları bildirmesini şart koşuyor. Her ölçekten geliştirici aynısını yapabilir; böylece bir sonraki ekip aynı hatadan kaçınır.
Kaynaklar
Dış test
GPT-6 Astra yayımlanmadan önce Birleşik Krallık AI Security Institute onu test etti ve kendi kritik bulgularını yayımladı. 2023 Beyaz Saray taahhütleri en büyük laboratuvarlardan yayın öncesi dış test istedi.
Kaynaklar
Taahhüdü imzalayın
Kimin imzaladığını söyleyin, web sitenize bir token koyun, ardından Doğrula'ya basın. İletişim e-postanız asla gösterilmez.
İki yoldan birini kullanın, ardından Doğrula'ya basın. Token yalnızca size aittir; imzacı olduğunuz sürece yerinde tutun.
Yol 1 · Bir dosya
Sitenizde, tek içeriği token olan bu dosyayı oluşturun:
Yol 2 · Bir meta etiketi
Ya da bu etiketi ana sayfanızın head bölümüne ekleyin:
İmzacı sayfanız yayında. Ziyaretçilerin taahhüdünüzü kontrol edebilmesi için rozeti sitenize ekleyin.
İmzacılar
Buradaki her ad web sitesi kontrolünden geçti. Her biri, yayımlanmış taahhütlerini içeren kendi sayfasına bağlanır.
Henüz imzacı yok
Liste boş başlar. Her imzacı ancak web sitesi kontrolünü geçtikten sonra burada görünür.
Rozet kiti
Doğrulanmış imzacılar rozeti ekleyebilir. Rozet imzacı sayfasına bağlanır; böylece herkes taahhüdü tek tıkla kontrol edebilir.
Önizleme
HTML (YOUR-PAGE yerine imzacı sayfanız gelir)
<a href="https://enterrsi.si/pledge/YOUR-PAGE/"><img src="https://enterrsi.si/pledge/badge.svg" width="232" height="44" alt="Kill Switch Pledge: verified signer, enterrsi.si"></a>
Rozet kuralları
Sorular
Beş yanıtta taahhüt.
SI ajanları geliştiren veya çalıştıran ve kendi web sitesi olan her şirket, laboratuvar, araştırma grubu ya da bağımsız geliştirici. İmzalamak ücretsizdir; hiçbir şey alınıp satılmaz.
İmzacı, enterrsi.si'den aldığı bir token'ı web sitesine koyar: ya /.well-known/rsi-pledge.txt adresinde bir dosya olarak ya da ana sayfasında bir meta etiketi olarak. enterrsi.si siteyi okur ve imzacı sayfası yayına girmeden önce token'ı kontrol eder.
İmzacı sayfasını açın ve her taahhüt için bağlantı verdiği yayımlanmış sayfalara bakın. Ayrıca /.well-known/rsi-pledge.txt dosyasını açıp token'ı imzacı sayfasındakiyle karşılaştırabilirsiniz.
Evet. Token'ı kaybolan, ayrılmak isteyen veya taahhütlerden birini açıkça çiğneyen imzacıyı ekip çıkarır. İletişim e-postası asla gösterilmez ve yalnızca imzacıya ulaşmak için kullanılır.
Hayır. Herkesin kontrol edebileceği açık bir sözdür. Kaliforniya'nın SB 53'ü ve EU AI Act gibi yasalar en büyük geliştiricilere yasal yükümlülükler getirir; taahhüt ise her geliştiriciden temel olanı ister.
RSI'a gir
Kontrolden Çıkma Olayları Veritabanı, durdurma işe yaramadığında SI sistemlerinin yaptıklarını kaydeder; her vaka kaynaklı ve derecelendirilmiştir.