Mistral 안전 성적표

D인 이유

2026년 11월 8일 기준으로 공개된 프런티어 안전 프레임워크는 찾을 수 없었습니다. 다만 Mistral은 서명자에게 임계값 설정을 요구하는 Seoul Frontier AI Safety Commitments(서울 프런티어 AI 안전 서약)와 EU General-Purpose AI Code of Practice(EU 범용 AI 실천 강령)에 서명했습니다.

이 기준에서 D의 의미: 자체 프레임워크가 없으며, Seoul Frontier AI Safety Commitments, EU General-Purpose AI Code of Practice, 중국의 CAICT 서약 같은 자발적 서약에만 서명했습니다.

출처

1. AI Safety Index Summer 2026, full report: Safety Frameworks domain Future of Life Institute · 2026년 7월 14일
2. AI Safety Index Summer 2026, full report: Voluntary Commitment indicators (Seoul commitments, EU Code of Practice) Future of Life Institute · 2026년 7월 14일
3. Frontier AI Safety Commitments, AI Seoul Summit 2024 UK Department for Science, Innovation and Technology · 2025년 2월 7일
4. Frontier AI Safety Policies (index of published company frameworks) METR · 2026년 11월 8일
5. AI Safety Index, Summer 2026 Edition (scorecard) Future of Life Institute · 2026년 7월 7일

C-인 이유

Mistral은 Mistral Large 4의 가중치를 공개하기 전에, 콘텐츠 조정(moderation)을 줄인 버전을 사용해 사이버 보안 선도 기업, 검증된 파트너, 국가 당국과 함께 모델을 레드팀 테스트하고 있다고 밝혔습니다. 위험한 역량에 대한 평가자, 방법, 결과는 공개되지 않았으며, FLI는 Mistral Large 3의 외부 테스트에 대한 공개 언급을 찾지 못했습니다.

이 기준에서 C의 의미: 출시 전 외부 테스트나 검토가 제한적이거나(이름을 밝히지 않은 레드팀, 단 한 건의 위탁 연구, 모델 접근 없이 회사 결과만 검토), 보고 내용이 빈약합니다.

출처

1. Introducing Mistral Large 4 Mistral · 2026년 10월 6일
2. Mistral Large 4 (Le Chonk) is now open weight Mistral · 2026년 10월 29일
3. AI Safety Index Summer 2026, full report: Pre-deployment External Safety Testing indicator Future of Life Institute · 2026년 7월 14일

D-인 이유

Mistral의 유일한 일시 중단 약속은 위험을 임계값 아래로 유지할 수 없으면 모델을 개발하거나 배포하지 않겠다는 서울 서약이며, 이를 발동할 임계값은 공개하지 않았습니다. FLI는 내부 배포에 대한 모니터링 및 통제 계획을 찾지 못했습니다.

이 기준에서 D의 의미: 재량적인 표현뿐이거나('종료할 수 있다', '적절한 경우'), 개발이나 배포를 하지 않겠다는 서약에 서명했지만 이를 발동할 임계값을 공개하지 않았습니다.

출처

1. Frontier AI Safety Commitments, AI Seoul Summit 2024 UK Department for Science, Innovation and Technology · 2025년 2월 7일
2. AI Safety Index Summer 2026, full report: Internal Monitoring and Control Interventions indicator Future of Life Institute · 2026년 7월 14일

D+인 이유

출시 게시물은 거부율과 프롬프트 인젝션 저항성 같은 안전 벤치마크를 보고하지만, FLI는 정부 통보 약속, 투명성 보고서, 업계 정보 공유를 찾지 못했습니다.

이 기준에서 D의 의미: 안전 관련 문서가 최소한에 그치며, 사건 보고는 법이 요구하는 경우에만 합니다.

출처

1. Introducing Mistral Large 4 Mistral · 2026년 10월 6일
2. Mistral Large 4 (Le Chonk) is now open weight Mistral · 2026년 10월 29일
3. AI Safety Index Summer 2026, full report: Serious Incident Reporting and Government Notifications indicator Future of Life Institute · 2026년 7월 14일

D인 이유

Mistral은 공식 내부고발자 정책과 익명 채널이 있다고 밝히지만, 공개된 정책은 찾을 수 없었습니다.

이 기준에서 D의 의미: 정책이 있다고 하지만 공개되지 않았거나, 전 직원에게 비방 금지 계약을 강제하는 등 공개를 억누른 일과 관련해 신뢰할 만한 최근 논란이 있습니다.

출처

1. AI Safety Index Summer 2026, full report: Whistleblowing Protection indicators and Reporting Culture and Whistleblowing Track Record Future of Life Institute · 2026년 7월 14일