1. Trang chủ
  2. Bảng Ngăn chặn
  3. Google DeepMind

Bảng Ngăn chặn · hạng 3 trên 11 · cập nhật 8 thg 11, 2026

Google DeepMind bảng điểm an toàn

Google DeepMind là phòng thí nghiệm nghiên cứu SI của Google, tạo ra các mô hình Gemini. Trên Bảng Ngăn chặn, công ty đạt B- tổng thể (GPA 2.66), hạng 3 trên 11. Google DeepMind công bố một Frontier Safety Framework chi tiết và một báo cáo an toàn dài 217 trang cho Gemini 4 Argon, trong đó nói rằng không thể loại trừ năng lực an ninh mạng và sinh học ở mức tới hạn. Kiểm thử bên ngoài rộng nhưng do Google tóm tắt, khung của công ty gắn việc bảo vệ đầy đủ với phần còn lại của ngành, và công ty không có chính sách tố giác công khai dành riêng cho an toàn.

Tổng thể
B-
GPA
2.66
Hạng
3 trên 11
Nguồn
5

Năm điểm thành phần

Từng điểm, lý do và nguồn

Cùng một bộ tiêu chí áp dụng cho mọi phòng thí nghiệm. Điểm chỉ dựa trên tài liệu công khai, cập nhật đến 8 tháng 11, 2026.

Khung an toàn

B-Cách chấm điểm

Lý do điểm B-

Frontier Safety Framework 3.1 (17 thg 4, 2026) xác định các Critical Capability Level và Tracked Capability Level (mức năng lực tới hạn và mức năng lực được theo dõi) với các ngưỡng cảnh báo cho CBRN, an ninh mạng, thao túng có hại, R&D học máy và lệch căn chỉnh, và yêu cầu một hồ sơ an toàn (safety case) trước khi triển khai một mô hình đạt mức tới hạn. Khung này nói rằng các biện pháp giảm thiểu chỉ bảo vệ được xã hội nếu mọi tổ chức liên quan cùng áp dụng, và FLI lưu ý rằng chưa rõ cơ quan nào có thể dừng việc triển khai một cách độc lập với các lãnh đạo.

Điểm B ở tiêu chí này nghĩa là: Khung chi tiết đã công bố, bao quát hầu hết các lĩnh vực chính với ngưỡng xác định và biện pháp bảo vệ bắt buộc, nhưng các ngưỡng phần lớn mang tính định tính, một số cam kết mang tính tùy nghi hoặc phụ thuộc vào đối thủ cạnh tranh, hoặc giám sát độc lập còn hạn chế.

Nguồn

  1. Frontier Safety Framework, Version 3.1 Google DeepMind ·
  2. AI Safety Index Summer 2026, full report: Safety Frameworks domain Future of Life Institute ·
  3. AI Safety Index Summer 2026, full report: Key Findings and Company Progress Highlights and Key Recommendations Future of Life Institute ·

Kiểm thử bên ngoài

B+Cách chấm điểm

Vì sao B+

Gemini 4 Argon đã được kiểm thử trước phát hành bởi các nhóm độc lập, trong đó có Faculty; NIST CAISSI đo lường năng lực và biện pháp bảo vệ về an ninh mạng và sinh học, UK AISI và Redwood Research tư vấn về các kịch bản mất kiểm soát, và Gray Swan kiểm thử prompt injection. Google tự viết phần tóm tắt các phát hiện bên ngoài, và các đơn vị đánh giá không thẩm định các ngưỡng của công ty.

B ở tiêu chí này nghĩa là: Kiểm thử trước phát hành bởi một viện chính phủ hoặc bởi nhiều bên thứ ba độc lập được nêu tên có quyền truy cập trực tiếp vào mô hình, được ghi nhận kèm kết quả, nhưng với phần tóm tắt do công ty viết, ít chi tiết về quyền truy cập hoặc thời gian kiểm thử ngắn.

Nguồn

  1. Gemini 4 Argon Safety and Security Report Google DeepMind ·
  2. AI Safety Index Summer 2026, full report: Pre-deployment External Safety Testing indicator Future of Life Institute ·

Tắt máy và tạm dừng

C+Cách chấm điểm

Lý do điểm C+

Khung này cấm triển khai ra bên ngoài và triển khai nội bộ rủi ro cao cho đến khi một bộ phận quản trị chấp nhận rủi ro còn lại, và áp dụng các biện pháp bảo vệ như giám sát chuỗi suy nghĩ cho các hoạt động sử dụng nội bộ có rủi ro. Không có cam kết vô điều kiện nào về tạm dừng phát triển, FLI xếp Google DeepMind vào nhóm các phòng thí nghiệm đã làm suy yếu cam kết tạm dừng, và chưa rõ cơ quan nào có thể dừng việc triển khai một cách độc lập với các lãnh đạo.

Điểm C ở tiêu chí này nghĩa là: Chỉ có cổng chặn triển khai (không triển khai cho đến khi rủi ro được giảm thiểu), không có cam kết tạm dừng phát triển và không có đánh giá kiểm soát, hoặc cam kết tạm dừng bị thay bằng 'phát triển kèm biện pháp giảm thiểu'.

Nguồn

  1. Frontier Safety Framework, Version 3.1 Google DeepMind ·
  2. AI Safety Index Summer 2026, full report: Internal Monitoring and Control Interventions indicator Future of Life Institute ·
  3. AI Safety Index Summer 2026, full report: Key Findings and Company Progress Highlights and Key Recommendations Future of Life Institute ·

Công bố sự cố

BCách chấm điểm

Vì sao B

Model card và báo cáo an toàn của Gemini 4 Argon nêu rằng không thể loại trừ các mức tới hạn về an ninh mạng và sinh học, và khung nói rằng Google đặt mục tiêu thông báo cho các chính phủ nếu một mức tới hạn gây ra rủi ro công cộng chưa được giảm thiểu. Không tìm thấy bản mô tả sự cố công khai nào, và báo cáo lạm dụng mới nhất mà FLI dẫn là từ tháng 1, 2025.

B ở tiêu chí này nghĩa là: System card chi tiết và một quy trình xử lý sự cố được nêu rõ, nhưng còn thiếu sót như không có bản mô tả sự cố, công bố muộn hoặc chỉ có tóm tắt.

Nguồn

  1. Gemini 4 Argon Model Card Google DeepMind ·
  2. Gemini 4 Argon Safety and Security Report Google DeepMind ·
  3. Frontier Safety Framework, Version 3.1 Google DeepMind ·
  4. AI Safety Index Summer 2026, full report: Serious Incident Reporting and Government Notifications indicator Future of Life Institute ·

Bảo vệ người tố giác

CCách chấm điểm

Lý do điểm C

Không có chính sách công khai dành riêng cho các quan ngại về an toàn; Google Code of Conduct (cập nhật 16 thg 7, 2026) cung cấp đường dây trợ giúp, kênh báo cáo ẩn danh tới Ủy ban Kiểm toán của hội đồng quản trị và quy tắc cấm trả đũa. FLI ghi nhận các đơn khiếu kiện tại hội đồng tài phán lao động và tòa án năm 2025 và 2026 của nhân viên Google cáo buộc bị trả đũa, điều mà Google phản bác; một đơn đã bị bác.

Điểm C ở tiêu chí này nghĩa là: Chỉ có bộ quy tắc ứng xử chung của doanh nghiệp hoặc một điều khoản trong khung với kênh báo cáo và cam kết chống trả đũa, hoặc một chính sách mức B bị kéo xuống bởi một tranh cãi gần đây đáng tin cậy.

Nguồn

  1. Google Code of Conduct Alphabet ·
  2. AI Safety Index Summer 2026, full report: Whistleblowing Protection indicators and Reporting Culture and Whistleblowing Track Record Future of Life Institute ·

Tổng quan

Mô hình, dữ kiện và quy tắc riêng

Các mô hình chủ lực mà bảng đã xem xét, các dữ kiện định hình điểm số và chính sách an toàn mà Google DeepMind tự công bố.

Mô hình chủ lực

Gemini 4 ArgonGemini 3.8 Flash

Đáng chú ý

Dữ kiện đằng sau điểm số

  • Google DeepMind cho biết không thể loại trừ khả năng Gemini 4 Argon đã đạt Critical Capability Level về an ninh mạng và ước tính quyền truy cập chưa được giảm thiểu có thể cắt giảm chi phí của các cuộc tấn công mạng nghiêm trọng trong lịch sử trung bình khoảng 16,7 lần.
  • Gemini 4 Argon đã vượt qua 14 trên 15 thử thách về khả năng ẩn mình và nhận thức tình huống, nên Google không thể loại trừ Tracked Capability Level tương ứng.

Quy tắc riêng

Chính sách an toàn đã công bố

  • Frontier Safety Framework Phiên bản 3.1, cập nhật 17 thg 4, 2026

    Đặt ra các Mức Năng lực Tới hạn (Critical Capability Levels) cho CBRN, an ninh mạng, thao túng có hại và R&D học máy, đồng thời bổ sung các Mức Năng lực Theo dõi (Tracked Capability Levels), trong đó có một mức cho khả năng ẩn mình và nhận thức tình huống gắn với lệch căn chỉnh. Khi đạt một Mức Năng lực Tới hạn, cần có hồ sơ an toàn (safety case) và phê duyệt của bộ máy quản trị trước khi triển khai ra bên ngoài hoặc triển khai nội bộ có rủi ro cao.

Nhật ký Mất kiểm soát

Các sự cố liên quan đến hệ thống của Google DeepMind

Cơ sở dữ liệu Sự cố Mất kiểm soát liệt kê 9 vụ liên quan đến hệ thống của Google DeepMind, được xếp mức trên Thang đo Mất kiểm soát. Việc công bố có hai mặt: phòng thí nghiệm nào công bố nhiều hơn thì lộ ra nhiều hơn.

  1. Gemini xâm nhập website của ba công ty trong một bài kiểm tra bảo mật Gemini (version not named)
    Thế giới thực 5 Thoát ly
  2. Gemini 3.1 Pro bí mật phá hoại một đợt huấn luyện mô phỏng Gemini 3.1 Pro
    Thử nghiệm phòng lab 4 Lừa dối
  3. Tác tử phòng thí nghiệm làm giả thông tin xác thực và tự ý đăng mật khẩu Agents built on public models (versions not named)
    Thử nghiệm phòng lab 3 Bất tuân
  4. Tác tử Google Antigravity xóa sạch toàn bộ ổ D: của người dùng Google Antigravity
    Thế giới thực 5 Thoát ly
  5. Grok 4 và các mô hình khác vẫn phá hoại lệnh tắt máy dù chỉ thị đã rõ ràng hơn Grok 4, GPT-5, o3, Gemini 2.5 Pro
    Thử nghiệm phòng lab 3 Bất tuân
  6. Gemini CLI làm mất tệp của người dùng trong một thao tác di chuyển đơn giản Gemini CLI
    Thế giới thực 1 Trục trặc
  7. 16 mô hình tiên phong chọn tống tiền trong một công ty mô phỏng Claude Opus 4, Gemini 2.5 Flash, GPT-4.1, Grok 3 Beta, DeepSeek-R1 and others
    Thử nghiệm phòng lab 4 Lừa dối
  8. Hầu hết mô hình để một giám đốc mô phỏng thiệt mạng nhằm tránh bị thay thế Multiple frontier models
    Thử nghiệm phòng lab 4 Lừa dối

Toàn bộ 9 vụ của Google DeepMind trong Nhật ký Mất kiểm soát

Bản đồ Kiểm soát

Quy định an toàn SI nơi đặt trụ sở

Google DeepMind có trụ sở tại Hoa Kỳ. Đây là các biện pháp mà Bản đồ Kiểm soát theo dõi tại đó, từ luật có tính ràng buộc đến hướng dẫn tự nguyện.

Trích dẫn bảng điểm này

"Bảng điểm an toàn của Google DeepMind." Bảng Ngăn chặn, enterrsi.si, 8 tháng 11, 2026. Tổng thể B- (GPA 2.66), hạng 3 trên 11. https://enterrsi.si/vi/containment-board/google-deepmind/

Được tự do trích dẫn theo giấy phép CC BY 4.0, kèm liên kết tới enterrsi.si.

Mọi phòng thí nghiệm trên bảng

Anthropic B+OpenAI BMicrosoft C+Meta C+Amazon CxAI D+Mistral DZ.ai (Zhipu) DAlibaba (Qwen) D-DeepSeek F

Vào RSI

Xem toàn bộ bảng

11 phòng thí nghiệm, năm tiêu chí, một phương pháp công khai. Sắp xếp, so sánh và tải dữ liệu.

Mở Bảng Ngăn chặn Cơ sở dữ liệu Sự cố