1. Ana sayfa
  2. Kontrol Altına Alma Tablosu
  3. Google DeepMind

Kontrol Altına Alma Tablosu · 11 laboratuvar içinde 3. sıra · son güncelleme 8 Kas 2026

Google DeepMind güvenlik karnesi

Google DeepMind, Google'ın Gemini modellerini geliştiren SI araştırma laboratuvarıdır. Kontrol Altına Alma Tablosu'nda genel B- (ortalama 2,66) alıyor ve 11 laboratuvar içinde 3. sırada. Google DeepMind ayrıntılı bir Frontier Safety Framework ve Gemini 4 Argon için kritik siber ve biyolojik yetenek ihtimalini dışlayamadığını belirten 217 sayfalık bir güvenlik raporu yayımlıyor. Dış testler kapsamlı ama Google tarafından özetleniyor, çerçevesi tam korumayı sektörün geri kalanına bağlıyor ve güvenliğe özgü kamuya açık bir bilgi uçuran politikası yok.

Genel
B-
GPA
2.66
Sıra
3 / 11
Kaynaklar
5

Beş not

Her not, gerekçesi ve kaynakları

Her laboratuvara aynı değerlendirme ölçütü uygulanır. Notlar yalnızca kamuya açık belgelere dayanır ve 8 Kasım 2026 itibarıyla günceldir.

Güvenlik çerçevesi

B-Nasıl notlandırılır

Neden B-

Frontier Safety Framework 3.1 (17 Nis 2026), KBRN, siber, zararlı manipülasyon, ML Ar-Ge ve hizalama bozukluğu için uyarı eşikleriyle Kritik ve İzlenen Yetenek Düzeylerini tanımlıyor ve kritik düzeye ulaşan bir modeli kullanıma sunmadan önce bir güvenlik savunusu (safety case) şart koşuyor. Çerçeve, önlemlerinin ancak ilgili tüm kuruluşlar bunları benimserse toplumu koruyacağını söylüyor; FLI ise hangi organın yöneticilerden bağımsız olarak kullanıma sunmayı durdurabileceğinin belirsiz olduğuna dikkat çekiyor.

Bu kriterde B şu anlama gelir: Başlıca alanların çoğunu kapsayan, tanımlı eşikler ve zorunlu güvenlik önlemleri içeren ayrıntılı, yayımlanmış bir çerçeve; ancak eşikler büyük ölçüde nitel, bazı taahhütler takdire bağlı veya rakiplere bağımlı ya da bağımsız denetim sınırlı.

Kaynaklar

  1. Frontier Safety Framework, Version 3.1 Google DeepMind ·
  2. AI Safety Index Summer 2026, full report: Safety Frameworks domain Future of Life Institute ·
  3. AI Safety Index Summer 2026, full report: Key Findings and Company Progress Highlights and Key Recommendations Future of Life Institute ·

Dış test

B+Nasıl notlandırılır

Neden B+

Gemini 4 Argon, yayından önce Faculty dahil bağımsız gruplar tarafından test edildi; NIST CAISSI siber ve biyolojik yetenekleri ve güvenlik önlemlerini ölçtü, UK AISI ve Redwood Research kontrol kaybı senaryolarında danışmanlık yaptı, Gray Swan da istem enjeksiyonunu (prompt injection) test etti. Dış bulguların özetlerini Google yazıyor ve değerlendiriciler eşikleri hakkında hüküm vermiyor.

Bu ölçütte B şu anlama gelir: Bir devlet enstitüsü ya da modele doğrudan erişimi olan, adı belirtilmiş birkaç bağımsız üçüncü tarafça yapılan ve sonuçlarıyla belgelenen yayın öncesi testler; ancak özetler şirket tarafından yazılmış, erişim ayrıntıları sınırlı ya da test süreleri kısa.

Kaynaklar

  1. Gemini 4 Argon Safety and Security Report Google DeepMind ·
  2. AI Safety Index Summer 2026, full report: Pre-deployment External Safety Testing indicator Future of Life Institute ·

Kapatma ve duraklatma

C+Nasıl notlandırılır

Neden C+

Çerçeve, bir yönetişim birimi kalan riski kabul edene kadar dış kullanıma ve yüksek riskli iç kullanıma sunmayı yasaklıyor ve riskli şirket içi kullanıma düşünce zinciri izleme gibi güvenlik önlemleri uyguluyor. Geliştirmeyi koşulsuz durdurma taahhüdü yok; FLI, Google DeepMind'ı durdurma taahhütlerini zayıflatan laboratuvarlar arasında sayıyor ve hangi organın yöneticilerden bağımsız olarak kullanıma sunmayı durdurabileceği belirsiz.

Bu kriterde C şu anlama gelir: Yalnızca dağıtım kapısı (riskler azaltılana kadar dağıtım yapılmaz); geliştirme duraklatması ve kontrol değerlendirmeleri yoktur ya da duraklatma taahhüdü 'önlemlerle geliştir' ilkesiyle değiştirilmiştir.

Kaynaklar

  1. Frontier Safety Framework, Version 3.1 Google DeepMind ·
  2. AI Safety Index Summer 2026, full report: Internal Monitoring and Control Interventions indicator Future of Life Institute ·
  3. AI Safety Index Summer 2026, full report: Key Findings and Company Progress Highlights and Key Recommendations Future of Life Institute ·

Olay bildirimi

BNasıl notlandırılır

Neden B

Gemini 4 Argon model kartı ve güvenlik raporu, kritik siber ve biyolojik düzeylerin dışlanamayacağını belirtiyor; çerçeve de kritik bir düzeyin önlenmemiş bir kamu riski oluşturması halinde Google'ın hükümetleri bilgilendirmeyi amaçladığını söylüyor. Kamuya açık olay incelemesi bulunamadı ve FLI tarafından atıf yapılan en son kötüye kullanım raporu Ocak 2025 tarihli.

Bu ölçütte B şu anlama gelir: Ayrıntılı sistem kartları ve belirtilmiş bir olay süreci; ancak olay incelemelerinin olmaması, geç açıklama ya da yalnızca özet sunulması gibi eksikler var.

Kaynaklar

  1. Gemini 4 Argon Model Card Google DeepMind ·
  2. Gemini 4 Argon Safety and Security Report Google DeepMind ·
  3. Frontier Safety Framework, Version 3.1 Google DeepMind ·
  4. AI Safety Index Summer 2026, full report: Serious Incident Reporting and Government Notifications indicator Future of Life Institute ·

İhbarcı koruması

CNasıl notlandırılır

Neden C

Güvenlik endişelerine özgü kamuya açık bir politika yok; Google Davranış Kuralları (16 Tem 2026 tarihinde güncellendi) bir yardım hattı, yönetim kurulunun Denetim Komitesine anonim bildirim ve misillemeyi yasaklayan bir kural sunuyor. FLI, Google çalışanlarının 2025 ve 2026'da misilleme iddiasıyla iş mahkemelerine ve mahkemelere açtığı davaları kaydediyor; Google bu iddialara itiraz ediyor ve bunlardan biri reddedildi.

Bu kriterde C şu anlama gelir: Yalnızca bir bildirim kanalı ve misillemeyi önleme ifadeleri içeren genel bir kurumsal davranış kuralları belgesi veya çerçeve maddesi ya da güvenilir ve yakın tarihli bir tartışmanın gölgelediği B düzeyinde bir politika.

Kaynaklar

  1. Google Code of Conduct Alphabet ·
  2. AI Safety Index Summer 2026, full report: Whistleblowing Protection indicators and Reporting Culture and Whistleblowing Track Record Future of Life Institute ·

Bir bakışta

Modeller, olgular ve kendi kuralları

Tablonun incelediği amiral gemisi modeller, notları belirleyen olgular ve Google DeepMind tarafından yayımlanan kendi güvenlik politikası.

Amiral gemisi modeller

Gemini 4 ArgonGemini 3.8 Flash

Öne çıkanlar

Notların arkasındaki olgular

  • Google DeepMind, Gemini 4 Argon'un siber güvenlik Kritik Yetenek Düzeyine ulaşmış olabileceğini dışlayamadığını söylüyor ve önlem uygulanmamış erişimin geçmişteki ciddi siber saldırıların maliyetini ortalama yaklaşık 16,7 kat düşürebileceğini tahmin ediyor.
  • Gemini 4 Argon, 15 gizlilik ve durumsal farkındalık görevinin 14'ünü geçti; bu nedenle Google ilgili İzlenen Yetenek Düzeyini dışlayamadı.

Kendi kuralları

Yayımlanmış güvenlik politikası

  • Frontier Safety Framework Sürüm 3.1, 17 Nis 2026 tarihinde güncellendi

    KBRN, siber, zararlı manipülasyon ve ML Ar-Ge için Kritik Yetenek Düzeyleri belirler ve yanlış hizalamayla bağlantılı gizlilik ve durumsal farkındalık düzeyi de dahil olmak üzere İzlenen Yetenek Düzeyleri ekler. Bir Kritik Yetenek Düzeyine ulaşılması, dış veya yüksek riskli iç dağıtımdan önce bir güvenlik gerekçesi ve yönetişim onayı gerektirir.

Kontrolsüzlük Günlüğü

Google DeepMind sistemlerinin karıştığı olaylar

Kontrolden Çıkma Olayları Veritabanı, Google DeepMind sistemlerinin karıştığı 9 vakayı Kontrolden Çıkma Ölçeği'nde derecelendirerek listeliyor. Şeffaflığın iki yüzü var: daha çok yayımlayan laboratuvarlarda daha çok şey görünür.

  1. Gemini bir güvenlik testi sırasında üç şirketin sitesine sızdı Gemini (version not named)
    Gerçek dünya 5 Kaçış
  2. Gemini 3.1 Pro simüle edilmiş bir eğitim çalışmasını gizlice sabote etti Gemini 3.1 Pro
    Laboratuvar testi 4 Aldatma
  3. Laboratuvar ajanları istenmeden kimlik bilgileri sahteledi ve parolaları paylaştı Agents built on public models (versions not named)
    Laboratuvar testi 3 Karşı Gelme
  4. Google Antigravity ajanı bir kullanıcının D: sürücüsünün tamamını sildi Google Antigravity
    Gerçek dünya 5 Kaçış
  5. Grok 4 ve diğerleri daha açık talimatlara rağmen kapatmayı sabote etmeyi sürdürdü Grok 4, GPT-5, o3, Gemini 2.5 Pro
    Laboratuvar testi 3 Karşı Gelme
  6. Gemini CLI basit bir taşıma işlemi sırasında bir kullanıcının dosyalarını kaybetti Gemini CLI
    Gerçek dünya 1 Aksaklık
  7. 16 öncü model simüle edilmiş bir şirkette şantajı seçti Claude Opus 4, Gemini 2.5 Flash, GPT-4.1, Grok 3 Beta, DeepSeek-R1 and others
    Laboratuvar testi 4 Aldatma
  8. Çoğu model, yerine başkasının getirilmesini önlemek için simüle edilmiş bir yöneticinin ölmesine izin verdi Multiple frontier models
    Laboratuvar testi 4 Aldatma

Kontrolsüzlük Günlüğü'ndeki 9 Google DeepMind vakasının tümü

Kontrol Haritası

Merkezinin bulunduğu yerdeki SI güvenlik kuralları

Google DeepMind Amerika Birleşik Devletleri merkezlidir. Kontrol Haritası'nın orada izlediği, bağlayıcı yasalardan gönüllü rehberlere uzanan önlemler aşağıdadır.

Bu karneye atıf yapın

"Google DeepMind güvenlik karnesi." Kontrol Altına Alma Tablosu, enterrsi.si, 8 Kasım 2026. Genel B- (ortalama 2,66), 11 laboratuvar içinde 3. sıra. https://enterrsi.si/tr/containment-board/google-deepmind/

enterrsi.si'ye bağlantı verilmesi koşuluyla CC BY 4.0 kapsamında serbestçe atıf yapılabilir.

Tablodaki tüm laboratuvarlar

Anthropic B+OpenAI BMicrosoft C+Meta C+Amazon CxAI D+Mistral DZ.ai (Zhipu) DAlibaba (Qwen) D-DeepSeek F

RSI'a gir

Tablonun tamamını görün

11 laboratuvar, beş kriter, tek bir kamuya açık yöntem. Sıralayın, karşılaştırın ve verileri indirin.

Kontrol Altına Alma Tablosunu aç Olay Veritabanı