Kontrol Altına Alma Tablosu

Yayımlanmış bir öncü güvenlik çerçevesi: hangi ciddi riskleri kapsadığı (kimyasal, biyolojik, radyolojik ve nükleer, siber, kontrol kaybı, otomatik araştırma), yetenek eşiklerinin ne kadar belirgin olduğu, her eşiğin hangi güvenlik önlemlerini gerektirdiği, kimin karar verdiği ve kimin denetlediği.

• A

  Tüm başlıca ciddi risk alanlarını kapsayan; ölçülebilir eşikler, her düzeyde önceden taahhüt edilmiş güvenlik önlemleri, açık risk kabul kriterleri, bağımsız gözetime tabi ve adı belirlenmiş bir karar mercii, uyumun dış denetimi ve düzenli güncellemeler içeren yayımlanmış çerçeve.

• B

  Başlıca alanların çoğunu kapsayan, tanımlı eşikler ve zorunlu güvenlik önlemleri içeren ayrıntılı, yayımlanmış bir çerçeve; ancak eşikler büyük ölçüde nitel, bazı taahhütler takdire bağlı veya rakiplere bağımlı ya da bağımsız denetim sınırlı.

• C

  Kapsamı dar, eşikleri az veya belirsiz, dili büyük ölçüde takdire bağlı ya da taahhütleri önceki sürümlere göre zayıflatılmış, yayımlanmış bir çerçeve.

• D

  Laboratuvarın kendine ait bir çerçevesi yoktur; yalnızca Seoul Frontier AI Safety Commitments, EU General-Purpose AI Code of Practice veya Çin'in CAICT taahhütleri gibi gönüllü taahhütleri imzalamıştır.

• F

  Ne bir çerçeve ne de imzalanmış bir güvenlik taahhüdü bulundu.

En son amiral gemisi modelin yayından önce devlet enstitüleri (ABD CAISSI, UK AI Security Institute) ve bağımsız üçüncü taraflar (METR, Apollo Research, SecureBio, Irregular gibi) tarafından test edilmesi, erişimlerinin derinliği ve sonuçların yayımlanıp yayımlanmadığı.

• A

  Amiral gemisi model, yayından önce bir devlet enstitüsü ve derin erişime (önlemsiz veya yalnızca yardımsever kontrol noktaları) sahip bağımsız üçüncü taraflarca test edilmiş; bulgular değerlendiricilerin kendi sözleriyle ve yayımlama özgürlüğüyle yayımlanmış.

• B

  Bir devlet enstitüsü veya modele doğrudan erişimi olan, adı açıklanmış birkaç bağımsız üçüncü tarafça yapılan ve sonuçlarıyla belgelenen yayın öncesi test; ancak özetler şirket tarafından yazılmış, erişim ayrıntıları sınırlı ya da test süreleri kısa.

• C

  Sınırlı dış ön sürüm testi veya incelemesi (adı açıklanmayan kırmızı takım üyeleri, tek bir sözleşmeli çalışma, model erişimi yerine şirket sonuçlarının incelenmesi) ya da yetersiz raporlama.

• D

  Dış teste ilişkin bir taahhüt var (kendi çerçevesi veya imzalanmış bir taahhüt), ancak amiral gemisi modelin yayın öncesi dış teste tabi tutulduğuna dair kanıt yok.

• F

  Ne taahhüt ne de yayın öncesi dış teste dair kanıt var. Laboratuvarın dahil olmadığı yayın sonrası devlet testleri not edilir ancak puan kazandırmaz.

Kapatmaya ilişkin kamuya açık taahhütler ve kanıtlar: eşikler aşıldığında eğitimi veya dağıtımı duraklatma, acil kapatma düğmeleri ve iş yüklerini durdurma yetkisi, kontrol değerlendirmeleri ve iç dağıtımın izlenmesi ile bir şeyler ters gittiğindeki sicil.

• A

  Eşikler yeterli güvenlik önlemleri olmadan aşıldığında geliştirmeyi ve dağıtımı duraklatmaya yönelik koşulsuz kamuya açık taahhüt, durdurma yetkisine sahip yayımlanmış kontrol değerlendirmeleri ve iç izleme ve bu yetkinin kullanıldığına dair kamuya açık bir sicil.

• B

  Sıkı dağıtım kapılarına ek olarak ya koşulsuz bir duraklatma taahhüdü ya da yayımlanmış iç izleme ve kontrol önlemleri; ancak duraklatma taahhüdü rakiplere bağlı, zayıflatılmış ya da hiç kamuoyu önünde sınanmamış.

• C

  Yalnızca dağıtım kapısı (riskler azaltılana kadar dağıtım yapılmaz); geliştirme duraklatması ve kontrol değerlendirmeleri yoktur ya da duraklatma taahhüdü 'önlemlerle geliştir' ilkesiyle değiştirilmiştir.

• D

  Yalnızca takdire bağlı ifadeler ('kapatabilir', 'uygun görüldüğünde') ya da onu tetikleyecek yayımlanmış eşikler olmaksızın geliştirmeme veya dağıtmama yönünde imzalanmış bir taahhüt.

• F

  Kamuya açık bir taahhüt bulunamadı.

Laboratuvarın neyin ters gittiğini kamuoyuna anlatıp anlatmadığı: yanlış davranışları (aldatma, sabotaj, ödül istismarı, değerlendirme farkındalığı) bildiren sistem kartları, kamuya açık olay raporları, kötüye kullanım ve şeffaflık raporları ve Kaliforniya SB 53, EU AI Act veya benzeri kurallar kapsamında kritik olayların devlete bildirilmesi için belgelenmiş bir süreç.

• A

  Her öncü sürüm için yanlış davranışları ve dış bulguları bildiren ayrıntılı sistem kartları, ciddi olaylara ilişkin hızlı ve kamuya açık teknik raporlar, düzenli kötüye kullanım veya tehdit raporları ve belgelenmiş bir devlete bildirim süreci.

• B

  Ayrıntılı sistem kartları ve beyan edilmiş bir olay süreci; ancak olay raporlarının olmaması, geç bildirim veya yalnızca özetler gibi eksiklikler var.

• C

  Sınırlı güvenlik içeriğine sahip model kartları veya teknik raporlar ve genel bir olay süreci.

• D

  Asgari güvenlik belgeleri; olay bildirimi yalnızca yasanın gerektirdiği durumlarda.

• F

  Güvenlik belgesi veya olay bildirimi bulunamadı.

Güvenlik endişelerini kapsayan yayımlanmış bir ihbarcı politikası, anonim kanallar, yönetim dışına başvuru imkânı, misillemeyi önleme hükümleri, kötülememe sözleşmelerinin kullanımı, yayımlanmış sonuçlar ve son 24 aydaki güvenilir tartışmalar.

• A

  Güvenlik ve çerçeveye uyumsuzluğu kapsayan kamuya açık müstakil politika, anonim ve çift yönlü kanal, yönetim kuruluna veya dış bir ombudsmana başvuru imkânı, misillemeye karşı koruma, güvenlik bildirimlerini engelleyen kötülememe hükümlerinin olmaması, yayımlanmış sonuç istatistikleri ve 24 ay içinde güvenilir bir misilleme tartışmasının olmaması.

• B

  Anonim bildirim ve misillemeye karşı koruma içeren, güvenlik endişelerini kapsayan kamuya açık politika; A düzeyinin bir ya da iki unsuru eksik ve 24 ay içinde çözülmemiş güvenilir bir tartışma yok.

• C

  Yalnızca bir bildirim kanalı ve misillemeyi önleme ifadeleri içeren genel bir kurumsal davranış kuralları belgesi veya çerçeve maddesi ya da güvenilir ve yakın tarihli bir tartışmanın gölgelediği B düzeyinde bir politika.

• D

  Bir politikanın var olduğu söylenir ancak kamuya açık değildir ya da eski bir çalışana karşı kötülememe sözleşmesinin uygulanması gibi, bildirimlerin bastırılmasını içeren güvenilir ve yakın tarihli bir tartışma vardır.

• F

  Kamuya açık kaynaklarda ihbarcı politikası veya bildirim kanalı bulunamadı.