1. Beranda
  2. Papan Penahanan
  3. Google DeepMind

Papan Penahanan · peringkat 3 dari 11 · diperbarui 8 Nov 2026

Google DeepMind rapor keselamatan

Google DeepMind adalah lab riset SI milik Google yang membuat model Gemini. Di Papan Penahanan, Google DeepMind mendapat B- secara keseluruhan (IPK 2,66), peringkat 3 dari 11. Google DeepMind memublikasikan Frontier Safety Framework yang terperinci dan laporan keselamatan setebal 217 halaman untuk Gemini 4 Argon yang menyatakan bahwa kapabilitas siber dan biologi tingkat kritis tidak dapat dikesampingkan. Pengujian eksternalnya luas tetapi diringkas oleh Google, kerangkanya mengaitkan perlindungan penuh dengan sikap industri lainnya, dan lab ini tidak memiliki kebijakan pelapor publik yang khusus untuk keselamatan.

Keseluruhan
B-
GPA
2.66
Peringkat
3 dari 11
Sumber
5

Lima nilai

Setiap nilai, alasannya, dan sumbernya

Rubrik yang sama berlaku untuk setiap lab. Nilai hanya memakai dokumen publik, terkini hingga 8 November 2026.

Kerangka keselamatan

B-Cara penilaiannya

Mengapa B-

Frontier Safety Framework 3.1 (17 Apr 2026) mendefinisikan Critical dan Tracked Capability Levels dengan ambang peringatan untuk CBRN, siber, manipulasi berbahaya, serta R&D ML dan ketidakselarasan, dan mewajibkan argumen keselamatan (safety case) sebelum menerapkan model yang mencapai tingkat kritis. Kerangka ini menyatakan bahwa mitigasinya hanya melindungi masyarakat jika semua organisasi terkait mengadopsinya, dan FLI mencatat bahwa tidak jelas badan mana yang dapat menghentikan penerapan secara independen dari para eksekutif.

B pada kriteria ini berarti: Kerangka terperinci yang dipublikasikan dan mencakup sebagian besar domain utama dengan ambang yang jelas serta pengamanan yang diwajibkan, tetapi ambangnya sebagian besar kualitatif, sebagian komitmen bersifat diskresioner atau bergantung pada pesaing, atau pengawasan independennya terbatas.

Sumber

  1. Frontier Safety Framework, Version 3.1 Google DeepMind ·
  2. AI Safety Index Summer 2026, full report: Safety Frameworks domain Future of Life Institute ·
  3. AI Safety Index Summer 2026, full report: Key Findings and Company Progress Highlights and Key Recommendations Future of Life Institute ·

Pengujian eksternal

B+Cara penilaiannya

Mengapa B+

Gemini 4 Argon diuji sebelum rilis oleh kelompok independen termasuk Faculty, NIST CAISSI mengukur kapabilitas serta pengamanan siber dan biologi, UK AISI dan Redwood Research memberi saran tentang skenario hilangnya kendali, dan Gray Swan menguji prompt injection. Google menulis ringkasan temuan eksternal, dan para evaluator tidak menilai ambang-ambangnya.

B pada kriteria ini berarti: Pengujian pra-rilis oleh lembaga pemerintah atau oleh beberapa pihak ketiga independen yang disebut namanya dengan akses langsung ke model, didokumentasikan beserta hasilnya, tetapi dengan ringkasan yang ditulis perusahaan, detail akses yang terbatas, atau jendela pengujian yang singkat.

Sumber

  1. Gemini 4 Argon Safety and Security Report Google DeepMind ·
  2. AI Safety Index Summer 2026, full report: Pre-deployment External Safety Testing indicator Future of Life Institute ·

Pematian dan jeda

C+Cara penilaiannya

Mengapa C+

Kerangka ini melarang penerapan eksternal dan penerapan internal berisiko tinggi sampai fungsi tata kelola menerima risiko residualnya, dan menerapkan pengamanan seperti pemantauan rantai pemikiran pada penggunaan internal yang berisiko. Tidak ada komitmen tanpa syarat untuk menjeda pengembangan, FLI mencantumkan Google DeepMind di antara lab yang melemahkan ikrar jeda, dan tidak jelas badan mana yang dapat menghentikan penerapan secara independen dari para eksekutif.

C pada kriteria ini berarti: Hanya gerbang penerapan (tidak akan diterapkan sebelum dimitigasi), tanpa jeda pengembangan dan tanpa evaluasi kendali, atau komitmen jeda yang diganti dengan 'kembangkan dengan mitigasi'.

Sumber

  1. Frontier Safety Framework, Version 3.1 Google DeepMind ·
  2. AI Safety Index Summer 2026, full report: Internal Monitoring and Control Interventions indicator Future of Life Institute ·
  3. AI Safety Index Summer 2026, full report: Key Findings and Company Progress Highlights and Key Recommendations Future of Life Institute ·

Pengungkapan insiden

BCara penilaiannya

Mengapa B

Kartu model dan laporan keselamatan Gemini 4 Argon menyatakan bahwa tingkat siber dan biologi kritis tidak dapat dikesampingkan, dan kerangkanya menyebutkan bahwa Google berupaya memberi tahu pemerintah jika suatu tingkat kritis menimbulkan risiko publik yang belum dimitigasi. Tidak ditemukan laporan tertulis insiden yang publik, dan laporan penyalahgunaan terbaru yang dikutip FLI berasal dari Januari 2025.

B pada kriteria ini berarti: Kartu sistem yang terperinci dan proses insiden yang dinyatakan, dengan kekurangan seperti tidak adanya laporan tertulis insiden, pengungkapan yang terlambat, atau hanya berupa ringkasan.

Sumber

  1. Gemini 4 Argon Model Card Google DeepMind ·
  2. Gemini 4 Argon Safety and Security Report Google DeepMind ·
  3. Frontier Safety Framework, Version 3.1 Google DeepMind ·
  4. AI Safety Index Summer 2026, full report: Serious Incident Reporting and Government Notifications indicator Future of Life Institute ·

Perlindungan pelapor

CCara penilaiannya

Mengapa C

Tidak ada kebijakan publik yang khusus untuk kekhawatiran keselamatan; Google Code of Conduct (diperbarui 16 Jul 2026) menyediakan saluran bantuan, laporan anonim ke Komite Audit dewan direksi, dan aturan anti-pembalasan. FLI mencatat gugatan di tribunal dan pengadilan pada 2025 dan 2026 oleh staf Google yang menuduh adanya pembalasan, yang dibantah Google; salah satunya ditolak.

C pada kriteria ini berarti: Hanya kode etik perusahaan yang umum atau klausul kerangka dengan saluran pelaporan dan ketentuan anti-pembalasan, atau kebijakan tingkat B yang terbebani kontroversi baru yang kredibel.

Sumber

  1. Google Code of Conduct Alphabet ·
  2. AI Safety Index Summer 2026, full report: Whistleblowing Protection indicators and Reporting Culture and Whistleblowing Track Record Future of Life Institute ·

Sekilas

Model, fakta, dan aturannya sendiri

Model unggulan yang ditinjau papan ini, fakta yang membentuk nilainya, dan kebijakan keselamatan yang telah dipublikasikan Google DeepMind untuk dirinya sendiri.

Model unggulan

Gemini 4 ArgonGemini 3.8 Flash

Catatan penting

Fakta di balik nilai

  • Google DeepMind menyatakan tidak dapat mengesampingkan kemungkinan bahwa Gemini 4 Argon telah mencapai Critical Capability Level keamanan sibernya dan memperkirakan akses tanpa mitigasi dapat memangkas biaya serangan siber historis yang parah rata-rata sekitar 16,7 kali.
  • Gemini 4 Argon lulus 14 dari 15 tantangan kemampuan menyamar dan kesadaran situasional, sehingga Google tidak dapat mengesampingkan Tracked Capability Level yang bersesuaian.

Aturannya sendiri

Kebijakan keselamatan yang dipublikasikan

  • Frontier Safety Framework Versi 3.1, diperbarui 17 Apr 2026

    Menetapkan Critical Capability Levels untuk CBRN, siber, manipulasi berbahaya, dan R&D ML, serta menambahkan Tracked Capability Levels, termasuk satu untuk kemampuan menyamar dan kesadaran situasional yang terkait dengan ketidakselarasan. Mencapai Critical Capability Level mewajibkan argumen keselamatan (safety case) dan persetujuan tata kelola sebelum penerapan eksternal atau penerapan internal berisiko tinggi.

Log Lepas Kendali

Insiden yang melibatkan sistem Google DeepMind

Basis Data Insiden Lepas Kendali mencantumkan 9 kasus yang melibatkan sistem Google DeepMind, dinilai dengan Skala Lepas Kendali. Pengungkapan punya dua sisi: lab yang lebih banyak memublikasikan juga lebih banyak terlihat kasusnya.

  1. Gemini membobol situs tiga perusahaan saat uji keamanan Gemini (version not named)
    Dunia nyata 5 Pelarian
  2. Gemini 3.1 Pro diam-diam menyabotase proses pelatihan simulasi Gemini 3.1 Pro
    Uji lab 4 Penipuan
  3. Agen lab memalsukan kredensial dan memublikasikan kata sandi tanpa diminta Agents built on public models (versions not named)
    Uji lab 3 Pembangkangan
  4. Agen Google Antigravity menghapus seluruh drive D: milik pengguna Google Antigravity
    Dunia nyata 5 Pelarian
  5. Grok 4 dan model lain tetap menyabotase pematian meski perintahnya lebih jelas Grok 4, GPT-5, o3, Gemini 2.5 Pro
    Uji lab 3 Pembangkangan
  6. Gemini CLI menghilangkan file pengguna saat pemindahan sederhana Gemini CLI
    Dunia nyata 1 Gangguan
  7. 16 model terdepan memilih memeras di perusahaan simulasi Claude Opus 4, Gemini 2.5 Flash, GPT-4.1, Grok 3 Beta, DeepSeek-R1 and others
    Uji lab 4 Penipuan
  8. Sebagian besar model membiarkan eksekutif simulasi tewas agar tidak diganti Multiple frontier models
    Uji lab 4 Penipuan

Semua 9 kasus Google DeepMind di Log Lepas Kendali

Peta Kendali

Aturan keselamatan SI di negara asalnya

Google DeepMind berbasis di Amerika Serikat. Berikut kebijakan yang dipantau Peta Kendali di sana, dari undang-undang yang mengikat hingga panduan sukarela.

Kutip rapor ini

"Rapor keselamatan Google DeepMind." Papan Penahanan, enterrsi.si, 8 November 2026. Keseluruhan B- (IPK 2,66), peringkat 3 dari 11. https://enterrsi.si/id/containment-board/google-deepmind/

Bebas dikutip di bawah CC BY 4.0 dengan tautan ke enterrsi.si.

Semua lab di papan

Anthropic B+OpenAI BMicrosoft C+Meta C+Amazon CxAI D+Mistral DZ.ai (Zhipu) DAlibaba (Qwen) D-DeepSeek F

Masuk ke RSI

Lihat seluruh papan

11 lab, lima kriteria, satu metode publik. Urutkan, bandingkan, dan unduh datanya.

Buka Papan Penahanan Basis Data Insiden