Microsoft 안전 성적표

B-인 이유

Frontier Governance Framework(2026년 2월)는 CBRN, 공격적 사이버 역량, 고도의 자율성, 통제 상실, 유해한 조작을 추적하고, 모델을 낮음부터 치명적까지 등급으로 매기며, 각 등급에 보안 및 배포 조치를 연동합니다. 의도적으로 정성적 임계값을 사용하며, 일반 벤치마크 선별을 통과한 모델만 더 심층적인 위험 평가를 받습니다.

이 기준에서 B의 의미: 대부분의 주요 영역을 다루고 임계값과 필수 안전장치를 정한 상세한 프레임워크를 공개했지만, 임계값이 대체로 정성적이거나, 일부 약속이 재량적이거나 경쟁사에 좌우되거나, 독립적 감독이 제한적입니다.

출처

1. Frontier Governance Framework (February 2026) Microsoft · 2026년 2월 13일
2. Frontier AI Safety Policies (index of published company frameworks) METR · 2026년 11월 8일

C인 이유

MAI-Thinking-1 기술 보고서(2026년 6월)는 내부 레드팀 활동, Microsoft의 별도 레드팀, 제3자 업체를 설명하지만, 위험한 역량에 대한 외부 평가자나 정부의 출시 전 테스트는 언급하지 않습니다. 영국 AISI와 Microsoft는 2026년 5월 고위험 역량 평가에 관한 연구 파트너십을 발표했습니다.

이 기준에서 C의 의미: 출시 전 외부 테스트나 검토가 제한적이거나(이름을 밝히지 않은 레드팀, 단 한 건의 위탁 연구, 모델 접근 없이 회사 결과만 검토), 보고 내용이 빈약합니다.

출처

1. MAI-Thinking-1: Building a Hill-Climbing Machine Microsoft AI · 2026년 6월 2일
2. Partnering with Microsoft to strengthen frontier AI safety UK AI Security Institute · 2026년 5월 5일
3. Frontier Governance Framework (February 2026) Microsoft · 2026년 2월 13일

B-인 이유

Microsoft는 충분히 완화할 수 없는 위험을 확인하면 완화 관행이 따라잡을 때까지 개발과 배포를 일시 중단하겠다고 밝히며, 선행 지표 점검을 훈련 중과 훈련 후에 실시합니다. 공개된 통제 평가나 일시 중단의 공개 기록은 찾을 수 없었습니다.

이 기준에서 B의 의미: 확고한 배포 관문에 더해 무조건적인 일시 중지 서약이나 공개된 내부 모니터링·통제 조치가 있지만, 일시 중지 서약이 경쟁사에 좌우되거나, 약해졌거나, 공개적으로 시험된 적이 없습니다.

출처

1. Frontier Governance Framework (February 2026) Microsoft · 2026년 2월 13일

C인 이유

프레임워크는 적용 대상 모델별 평가와 위험 분류를 공개하고 심각한 사건을 필요에 따라 규제 당국에 보고하겠다고 약속합니다. MAI-Thinking-1 보고서는 안전 벤치마크 결과를 제시하지만 프런티어 위험 분류는 제시하지 않습니다.

이 기준에서 C의 의미: 안전 관련 내용이 제한적인 모델 카드나 기술 보고서, 그리고 일반적인 사건 처리 절차가 있습니다.

출처

1. Frontier Governance Framework (February 2026) Microsoft · 2026년 2월 13일
2. MAI-Thinking-1: Building a Hill-Climbing Machine Microsoft AI · 2026년 6월 2일

C+인 이유

Microsoft의 공개된 Standards of Business Conduct(비즈니스 행동 표준)와 프레임워크는 직원이 익명 신고를 포함한 채널을 통해 보복으로부터 보호받으며 프레임워크에 대한 우려를 제기할 수 있게 하며, FLI는 Microsoft를 내부고발 체계의 투명성이 높은 사례로 꼽습니다. 프런티어 모델 안전에 특화된 별도 정책은 없습니다.

이 기준에서 C의 의미: 신고 채널과 보복 금지 문구를 담은 일반적인 기업 행동 강령이나 프레임워크 조항만 있거나, B 수준의 정책이 있지만 신뢰할 만한 최근 논란으로 평가가 깎였습니다.

출처

1. Frontier Governance Framework (February 2026) Microsoft · 2026년 2월 13일
2. Standards of Business Conduct (Trust Code) Microsoft · 2026년 11월 8일
3. AI Safety Index Summer 2026, full report: Whistleblowing Protection indicators and Reporting Culture and Whistleblowing Track Record Future of Life Institute · 2026년 7월 14일