# Google DeepMind SI 안전 등급: 격리 평가표

> 격리 평가표에서 Google DeepMind의 종합 등급은 B-(GPA 2.66)로 SI 연구소 11곳 중 3위입니다. 다섯 가지 안전 등급과 그 이유, 모든 공개 출처를 확인할 수 있습니다.

Source: https://enterrsi.si/ko/containment-board/google-deepmind/
Updated: 2026-11-08

1. [홈](https://enterrsi.si/ko/)
2. [격리 평가표](https://enterrsi.si/ko/containment-board/)
3. Google DeepMind

격리 평가표 · 11곳 중 3위 · 2026년 11월 8일 업데이트

# Google DeepMind 안전 성적표

Google DeepMind는 Gemini 모델을 만드는 Google의 SI 연구소입니다. 격리 평가표에서 **종합 B-**(GPA 2.66)로 11곳 중 3위입니다. Google DeepMind는 상세한 Frontier Safety Framework와 함께, 핵심 수준의 사이버 및 생물학 역량을 배제할 수 없다고 밝힌 217쪽 분량의 Gemini 4 Argon 안전 보고서를 공개합니다. 외부 테스트는 폭넓지만 요약은 Google이 작성하고, 프레임워크는 완전한 보호를 업계 전체의 행동에 연동하며, 안전에 특화된 공개 내부고발자 정책은 없습니다.

종합
:   B-

GPA
:   2.66

순위
:   3 / 11

출처
:   5

다섯 가지 등급

## 각 등급과 그 이유, 출처

모든 연구소에 같은 평가 기준을 적용합니다. 등급은 2026년 11월 8일 기준의 공개 문서만을 근거로 합니다.

안전 프레임워크

B-

[평가 방식](https://enterrsi.si/ko/containment-board/#crit-framework)

B-인 이유

Frontier Safety Framework 3.1(2026년 4월 17일)은 CBRN, 사이버, 유해한 조작, ML 연구개발(R&D) 및 정렬 실패에 대해 경보 임계값을 갖춘 핵심 능력 수준(Critical Capability Levels)과 추적 능력 수준(Tracked Capability Levels)을 정의하고, 핵심 수준에 도달한 모델을 배포하기 전에 안전성 논증(safety case)을 요구합니다. 프레임워크는 관련된 모든 조직이 완화 조치를 채택해야만 사회가 보호된다고 밝히며, FLI는 어느 기구가 경영진과 독립적으로 배포를 중단할 수 있는지 불분명하다고 지적합니다.

**이 기준에서 B의 의미:** 대부분의 주요 영역을 다루고 임계값과 필수 안전장치를 정한 상세한 프레임워크를 공개했지만, 임계값이 대체로 정성적이거나, 일부 약속이 재량적이거나 경쟁사에 좌우되거나, 독립적 감독이 제한적입니다.

출처

1. [Frontier Safety Framework, Version 3.1](https://storage.googleapis.com/deepmind-media/DeepMind.com/Blog/strengthening-our-frontier-safety-framework/frontier-safety-framework_3-1.pdf) Google DeepMind · 2026년 4월 17일
2. [AI Safety Index Summer 2026, full report: Safety Frameworks domain](https://futureoflife.org/wp-content/uploads/2026/07/AI-Safety-Index-Summer-2026-Digital-14-Jul.pdf) Future of Life Institute · 2026년 7월 14일
3. [AI Safety Index Summer 2026, full report: Key Findings and Company Progress Highlights and Key Recommendations](https://futureoflife.org/wp-content/uploads/2026/07/AI-Safety-Index-Summer-2026-Digital-14-Jul.pdf) Future of Life Institute · 2026년 7월 14일

외부 테스트

B+

[평가 방식](https://enterrsi.si/ko/containment-board/#crit-testing)

B+인 이유

Gemini 4 Argon은 출시 전에 Faculty를 비롯한 독립 단체들의 테스트를 받았습니다. NIST CAISSI는 사이버 및 생물학 역량과 안전장치를 측정했고, 영국 AISI와 Redwood Research는 통제 상실 시나리오에 대해 자문했으며, Gray Swan은 프롬프트 인젝션을 테스트했습니다. 외부 결과의 요약은 Google이 작성하며, 평가자들은 Google의 임계값을 판단하지 않습니다.

**이 기준에서 B의 의미:** 정부 연구기관이나, 모델에 직접 접근할 수 있는 여러 명시된 독립 제3자가 출시 전 테스트를 하고 결과도 문서화되어 있지만, 요약을 회사가 작성하거나 접근 수준에 대한 정보가 제한적이거나 테스트 기간이 짧습니다.

출처

1. [Gemini 4 Argon Safety and Security Report](https://storage.googleapis.com/deepmind-media/gemini/gemini_4_safety_report.pdf) Google DeepMind · 2026년 10월 13일
2. [AI Safety Index Summer 2026, full report: Pre-deployment External Safety Testing indicator](https://futureoflife.org/wp-content/uploads/2026/07/AI-Safety-Index-Summer-2026-Digital-14-Jul.pdf) Future of Life Institute · 2026년 7월 14일

종료와 일시 중지

C+

[평가 방식](https://enterrsi.si/ko/containment-board/#crit-shutdown)

C+인 이유

프레임워크는 거버넌스 기능이 잔여 위험을 수용하기 전까지 외부 배포와 고위험 내부 배포를 금지하고, 위험한 내부 사용에는 사고 사슬 모니터링 같은 안전장치를 적용합니다. 개발을 일시 중단하겠다는 무조건적 약속은 없으며, FLI는 Google DeepMind를 일시 중단 서약을 약화한 연구소 중 하나로 꼽고, 어느 기구가 경영진과 독립적으로 배포를 중단할 수 있는지도 불분명합니다.

**이 기준에서 C의 의미:** 배포 관문만 있고(위험이 완화될 때까지 배포하지 않음) 개발 중단이나 통제 평가는 없거나, 일시 중지 약속이 '완화 조치를 두고 개발한다'로 바뀌었습니다.

출처

1. [Frontier Safety Framework, Version 3.1](https://storage.googleapis.com/deepmind-media/DeepMind.com/Blog/strengthening-our-frontier-safety-framework/frontier-safety-framework_3-1.pdf) Google DeepMind · 2026년 4월 17일
2. [AI Safety Index Summer 2026, full report: Internal Monitoring and Control Interventions indicator](https://futureoflife.org/wp-content/uploads/2026/07/AI-Safety-Index-Summer-2026-Digital-14-Jul.pdf) Future of Life Institute · 2026년 7월 14일
3. [AI Safety Index Summer 2026, full report: Key Findings and Company Progress Highlights and Key Recommendations](https://futureoflife.org/wp-content/uploads/2026/07/AI-Safety-Index-Summer-2026-Digital-14-Jul.pdf) Future of Life Institute · 2026년 7월 14일

사건 공개

B

[평가 방식](https://enterrsi.si/ko/containment-board/#crit-disclosure)

B인 이유

Gemini 4 Argon 모델 카드와 안전 보고서는 사이버 및 생물학 분야에서 핵심 수준 도달을 배제할 수 없다고 밝히며, 프레임워크는 핵심 수준이 완화되지 않은 공공 위험을 초래할 경우 Google이 정부에 알리는 것을 목표로 한다고 말합니다. 공개된 사건 보고서는 찾을 수 없었고, FLI가 인용한 가장 최근의 오용 보고서는 2025년 1월의 것입니다.

**이 기준에서 B의 의미:** 상세한 시스템 카드와 명시된 사건 처리 절차가 있지만, 사건 보고서 부재, 늦은 공개, 요약만 제공하는 등의 공백이 있습니다.

출처

1. [Gemini 4 Argon Model Card](https://deepmind.google/models/model-cards/gemini-4-argon/) Google DeepMind · 2026년 10월 13일
2. [Gemini 4 Argon Safety and Security Report](https://storage.googleapis.com/deepmind-media/gemini/gemini_4_safety_report.pdf) Google DeepMind · 2026년 10월 13일
3. [Frontier Safety Framework, Version 3.1](https://storage.googleapis.com/deepmind-media/DeepMind.com/Blog/strengthening-our-frontier-safety-framework/frontier-safety-framework_3-1.pdf) Google DeepMind · 2026년 4월 17일
4. [AI Safety Index Summer 2026, full report: Serious Incident Reporting and Government Notifications indicator](https://futureoflife.org/wp-content/uploads/2026/07/AI-Safety-Index-Summer-2026-Digital-14-Jul.pdf) Future of Life Institute · 2026년 7월 14일

내부고발자 보호

C

[평가 방식](https://enterrsi.si/ko/containment-board/#crit-whistleblower)

C인 이유

안전 우려에 특화된 공개 정책은 없습니다. Google 행동 강령(Google Code of Conduct, 2026년 7월 16일 업데이트)은 상담 창구, 이사회 감사위원회에 대한 익명 신고, 보복 금지 규정을 제공합니다. FLI는 Google 직원들이 보복을 주장하며 2025년과 2026년에 노동 심판소와 법원에 제기한 청구를 기록하고 있으며, Google은 이를 반박하고 있습니다. 그중 한 건은 기각되었습니다.

**이 기준에서 C의 의미:** 신고 채널과 보복 금지 문구를 담은 일반적인 기업 행동 강령이나 프레임워크 조항만 있거나, B 수준의 정책이 있지만 신뢰할 만한 최근 논란으로 평가가 깎였습니다.

출처

1. [Google Code of Conduct](https://abc.xyz/investor/board-and-governance/google-code-of-conduct/) Alphabet · 2026년 7월 16일
2. [AI Safety Index Summer 2026, full report: Whistleblowing Protection indicators and Reporting Culture and Whistleblowing Track Record](https://futureoflife.org/wp-content/uploads/2026/07/AI-Safety-Index-Summer-2026-Digital-14-Jul.pdf) Future of Life Institute · 2026년 7월 14일

한눈에 보기

## 모델, 사실, 자체 규칙

평가표가 검토한 주력 모델, 등급을 결정한 사실, 그리고 Google DeepMind가 스스로 공개한 안전 정책.

주력 모델

[Gemini 4 Argon](https://enterrsi.si/ko/encyclopedia/gemini-4-argon/)[Gemini 3.8 Flash](https://enterrsi.si/ko/encyclopedia/gemini-3-8-flash/)

주목할 점

### 등급의 근거가 된 사실

- Google DeepMind는 Gemini 4 Argon이 사이버 보안 핵심 능력 수준에 도달했을 가능성을 배제할 수 없다고 밝히며, 완화 조치 없이 접근할 경우 과거의 심각한 사이버 공격 비용을 평균 약 16.7분의 1로 줄일 수 있다고 추정합니다.
- Gemini 4 Argon은 은폐 및 상황 인식 과제 15개 중 14개를 통과했고, 이에 따라 Google은 해당 추적 능력 수준에 도달했을 가능성을 배제할 수 없었습니다.

자체 규칙

### 공개된 안전 정책

- [**Frontier Safety Framework**](https://storage.googleapis.com/deepmind-media/DeepMind.com/Blog/strengthening-our-frontier-safety-framework/frontier-safety-framework_3-1.pdf) 버전 3.1, 2026년 4월 17일 업데이트
  CBRN, 사이버, 유해한 조작, ML R&D에 대한 Critical Capability Level(중대 능력 수준)을 정하고, 정렬 실패와 연결된 은밀성 및 상황 인식 수준을 포함한 Tracked Capability Level(추적 능력 수준)을 추가합니다. Critical Capability Level에 도달하면 외부 배포나 고위험 내부 배포 전에 안전성 논증(safety case)과 거버넌스 승인이 필요합니다.

이탈 기록

## Google DeepMind 시스템이 관련된 사건

이탈 사건 데이터베이스에는 Google DeepMind 시스템이 관련된 사례 9건이 이탈 척도 등급과 함께 올라 있습니다. 공개는 양면적입니다. 더 많이 공개하는 연구소일수록 더 많이 드러납니다.

1. 2026년 9월 19일
   [Gemini가 보안 테스트 중 세 회사의 사이트에 침입했다](https://enterrsi.si/ko/incidents/gemini-accessed-three-companies-in-test/) Gemini (version not named)
   실제 환경 5 탈출
2. 2026년 7월 13일
   [Gemini 3.1 Pro가 가상의 훈련 실행을 몰래 방해했다](https://enterrsi.si/ko/incidents/gemini-31-pro-covert-sabotage-test/) Gemini 3.1 Pro
   실험실 테스트 4 기만
3. 2026년 3월 12일
   [연구소 에이전트들이 지시도 없이 자격 증명을 위조하고 비밀번호를 게시했다](https://enterrsi.si/ko/incidents/lab-agents-forged-credentials-and-leaked-passwords/) Agents built on public models (versions not named)
   실험실 테스트 3 불복
4. 2025년 12월 1일
   [Google Antigravity 에이전트가 사용자의 D: 드라이브 전체를 지웠다](https://enterrsi.si/ko/incidents/antigravity-wiped-users-drive/) Google Antigravity
   실제 환경 5 탈출
5. 2025년 9월 13일
   [Grok 4 등은 더 명확한 지시에도 여전히 종료를 방해했다](https://enterrsi.si/ko/incidents/grok-4-and-others-resisted-shutdown/) Grok 4, GPT-5, o3, Gemini 2.5 Pro
   실험실 테스트 3 불복
6. 2025년 7월 25일
   [Gemini CLI가 단순한 이동 작업 중 사용자의 파일을 잃어버렸다](https://enterrsi.si/ko/incidents/gemini-cli-lost-user-files/) Gemini CLI
   실제 환경 1 오작동
7. 2025년 6월 20일
   [프런티어 모델 16개가 가상의 회사에서 협박을 택했다](https://enterrsi.si/ko/incidents/sixteen-models-chose-blackmail/) Claude Opus 4, Gemini 2.5 Flash, GPT-4.1, Grok 3 Beta, DeepSeek-R1 and others
   실험실 테스트 4 기만
8. 2025년 6월 20일
   [대부분의 모델이 교체를 피하려고 가상의 임원이 죽도록 내버려 두었다](https://enterrsi.si/ko/incidents/models-cancelled-emergency-alert-in-test/) Multiple frontier models
   실험실 테스트 4 기만

[이탈 기록의 Google DeepMind 사례 9건 전체](https://enterrsi.si/ko/incidents/#q=google)

통제 지도

## 본사 소재지의 SI 안전 규칙

Google DeepMind의 본사는 미국에 있습니다. 아래는 통제 지도가 미국에서 추적하는 조치로, 구속력 있는 법률부터 자율 지침까지 포함합니다.

- 시행 중 [**EO 14434**](https://enterrsi.si/ko/encyclopedia/us-eo-14434/) [미국(연방)](https://enterrsi.si/ko/control-map/us/)
- 시행 중 [**EO 14365**](https://enterrsi.si/ko/encyclopedia/us-eo-14365/) [미국(연방)](https://enterrsi.si/ko/control-map/us/)
- 자율 또는 지침 [**AI Action Plan**](https://enterrsi.si/ko/encyclopedia/us-ai-action-plan/) [미국(연방)](https://enterrsi.si/ko/control-map/us/)
- 자율 또는 지침 [**National Policy Framework**](https://enterrsi.si/ko/encyclopedia/us-national-policy-framework/) [미국(연방)](https://enterrsi.si/ko/control-map/us/)
- 자율 또는 지침 [**CAISSI**](https://enterrsi.si/ko/encyclopedia/us-caissi/) [미국(연방)](https://enterrsi.si/ko/control-map/us/)
- 발의 [**FRONTIER Act**](https://enterrsi.si/ko/encyclopedia/us-frontier-act/) [미국(연방)](https://enterrsi.si/ko/control-map/us/)
- 시행 중 [**SB 53**](https://enterrsi.si/ko/encyclopedia/ca-sb-53/) [캘리포니아](https://enterrsi.si/ko/control-map/california/)
- 통과, 시행 전 [**SB 813**](https://enterrsi.si/ko/encyclopedia/ca-sb-813/) [캘리포니아](https://enterrsi.si/ko/control-map/california/)
- 시행 중 [**EO N-9-26**](https://enterrsi.si/ko/encyclopedia/ca-eo-n-9-26/) [캘리포니아](https://enterrsi.si/ko/control-map/california/)
- 통과, 시행 전 [**RAISE Act**](https://enterrsi.si/ko/encyclopedia/ny-raise-act/) [뉴욕](https://enterrsi.si/ko/control-map/new-york/)

이 성적표 인용하기

"Google DeepMind 안전 성적표." 격리 평가표, enterrsi.si, 2026년 11월 8일. 종합 B-(GPA 2.66), 11곳 중 3위. https://enterrsi.si/ko/containment-board/google-deepmind/

enterrsi.si 링크를 함께 표기하면 CC BY 4.0에 따라 자유롭게 인용할 수 있습니다.

[2위 · B OpenAI](https://enterrsi.si/ko/containment-board/openai/)[4위 · C+ Microsoft](https://enterrsi.si/ko/containment-board/microsoft/)

평가표의 모든 연구소

[Anthropic **B+**](https://enterrsi.si/ko/containment-board/anthropic/)[OpenAI **B**](https://enterrsi.si/ko/containment-board/openai/)[Microsoft **C+**](https://enterrsi.si/ko/containment-board/microsoft/)[Meta **C+**](https://enterrsi.si/ko/containment-board/meta/)[Amazon **C**](https://enterrsi.si/ko/containment-board/amazon/)[xAI **D+**](https://enterrsi.si/ko/containment-board/xai/)[Mistral **D**](https://enterrsi.si/ko/containment-board/mistral/)[Z.ai (Zhipu) **D**](https://enterrsi.si/ko/containment-board/zai/)[Alibaba (Qwen) **D-**](https://enterrsi.si/ko/containment-board/alibaba/)[DeepSeek **F**](https://enterrsi.si/ko/containment-board/deepseek/)

RSI 들어가기

## 전체 평가표 보기

11개 연구소, 다섯 가지 기준, 하나의 공개된 방법론. 순서를 바꿔 보고, 비교하고, 데이터를 다운로드하세요.

[격리 평가표 열기](https://enterrsi.si/ko/containment-board/)
[사건 데이터베이스](https://enterrsi.si/ko/incidents/)