Google DeepMind 안전 성적표

B-인 이유

Frontier Safety Framework 3.1(2026년 4월 17일)은 CBRN, 사이버, 유해한 조작, ML 연구개발(R&D) 및 정렬 실패에 대해 경보 임계값을 갖춘 핵심 능력 수준(Critical Capability Levels)과 추적 능력 수준(Tracked Capability Levels)을 정의하고, 핵심 수준에 도달한 모델을 배포하기 전에 안전성 논증(safety case)을 요구합니다. 프레임워크는 관련된 모든 조직이 완화 조치를 채택해야만 사회가 보호된다고 밝히며, FLI는 어느 기구가 경영진과 독립적으로 배포를 중단할 수 있는지 불분명하다고 지적합니다.

이 기준에서 B의 의미: 대부분의 주요 영역을 다루고 임계값과 필수 안전장치를 정한 상세한 프레임워크를 공개했지만, 임계값이 대체로 정성적이거나, 일부 약속이 재량적이거나 경쟁사에 좌우되거나, 독립적 감독이 제한적입니다.

출처

1. Frontier Safety Framework, Version 3.1 Google DeepMind · 2026년 4월 17일
2. AI Safety Index Summer 2026, full report: Safety Frameworks domain Future of Life Institute · 2026년 7월 14일
3. AI Safety Index Summer 2026, full report: Key Findings and Company Progress Highlights and Key Recommendations Future of Life Institute · 2026년 7월 14일

B+인 이유

Gemini 4 Argon은 출시 전에 Faculty를 비롯한 독립 단체들의 테스트를 받았습니다. NIST CAISSI는 사이버 및 생물학 역량과 안전장치를 측정했고, 영국 AISI와 Redwood Research는 통제 상실 시나리오에 대해 자문했으며, Gray Swan은 프롬프트 인젝션을 테스트했습니다. 외부 결과의 요약은 Google이 작성하며, 평가자들은 Google의 임계값을 판단하지 않습니다.

이 기준에서 B의 의미: 정부 연구기관이나, 모델에 직접 접근할 수 있는 여러 명시된 독립 제3자가 출시 전 테스트를 하고 결과도 문서화되어 있지만, 요약을 회사가 작성하거나 접근 수준에 대한 정보가 제한적이거나 테스트 기간이 짧습니다.

출처

1. Gemini 4 Argon Safety and Security Report Google DeepMind · 2026년 10월 13일
2. AI Safety Index Summer 2026, full report: Pre-deployment External Safety Testing indicator Future of Life Institute · 2026년 7월 14일

C+인 이유

프레임워크는 거버넌스 기능이 잔여 위험을 수용하기 전까지 외부 배포와 고위험 내부 배포를 금지하고, 위험한 내부 사용에는 사고 사슬 모니터링 같은 안전장치를 적용합니다. 개발을 일시 중단하겠다는 무조건적 약속은 없으며, FLI는 Google DeepMind를 일시 중단 서약을 약화한 연구소 중 하나로 꼽고, 어느 기구가 경영진과 독립적으로 배포를 중단할 수 있는지도 불분명합니다.

이 기준에서 C의 의미: 배포 관문만 있고(위험이 완화될 때까지 배포하지 않음) 개발 중단이나 통제 평가는 없거나, 일시 중지 약속이 '완화 조치를 두고 개발한다'로 바뀌었습니다.

출처

1. Frontier Safety Framework, Version 3.1 Google DeepMind · 2026년 4월 17일
2. AI Safety Index Summer 2026, full report: Internal Monitoring and Control Interventions indicator Future of Life Institute · 2026년 7월 14일
3. AI Safety Index Summer 2026, full report: Key Findings and Company Progress Highlights and Key Recommendations Future of Life Institute · 2026년 7월 14일

B인 이유

Gemini 4 Argon 모델 카드와 안전 보고서는 사이버 및 생물학 분야에서 핵심 수준 도달을 배제할 수 없다고 밝히며, 프레임워크는 핵심 수준이 완화되지 않은 공공 위험을 초래할 경우 Google이 정부에 알리는 것을 목표로 한다고 말합니다. 공개된 사건 보고서는 찾을 수 없었고, FLI가 인용한 가장 최근의 오용 보고서는 2025년 1월의 것입니다.

이 기준에서 B의 의미: 상세한 시스템 카드와 명시된 사건 처리 절차가 있지만, 사건 보고서 부재, 늦은 공개, 요약만 제공하는 등의 공백이 있습니다.

출처

1. Gemini 4 Argon Model Card Google DeepMind · 2026년 10월 13일
2. Gemini 4 Argon Safety and Security Report Google DeepMind · 2026년 10월 13일
3. Frontier Safety Framework, Version 3.1 Google DeepMind · 2026년 4월 17일
4. AI Safety Index Summer 2026, full report: Serious Incident Reporting and Government Notifications indicator Future of Life Institute · 2026년 7월 14일

C인 이유

안전 우려에 특화된 공개 정책은 없습니다. Google 행동 강령(Google Code of Conduct, 2026년 7월 16일 업데이트)은 상담 창구, 이사회 감사위원회에 대한 익명 신고, 보복 금지 규정을 제공합니다. FLI는 Google 직원들이 보복을 주장하며 2025년과 2026년에 노동 심판소와 법원에 제기한 청구를 기록하고 있으며, Google은 이를 반박하고 있습니다. 그중 한 건은 기각되었습니다.

이 기준에서 C의 의미: 신고 채널과 보복 금지 문구를 담은 일반적인 기업 행동 강령이나 프레임워크 조항만 있거나, B 수준의 정책이 있지만 신뢰할 만한 최근 논란으로 평가가 깎였습니다.

출처

1. Google Code of Conduct Alphabet · 2026년 7월 16일
2. AI Safety Index Summer 2026, full report: Whistleblowing Protection indicators and Reporting Culture and Whistleblowing Track Record Future of Life Institute · 2026년 7월 14일