Meta 안전 성적표

C+인 이유

Meta Superintelligence Scaling Framework 2.1(2026년 10월 2일)은 사이버, 화학 및 생물학, 통제 상실 위험에 대한 위협 시나리오를 상세히 다루고 책임 임원을 명시합니다. 2026년 4월 개정에서는 Critical 단계의 대응을 'Stop'(중단)에서 'Develop with Mitigations'(완화 조치와 함께 개발)로, High 단계의 대응을 'Do not release'(출시 금지)에서 'Deploy with mitigations'(완화 조치와 함께 배포)로 바꾸었으며, FLI는 측정 가능한 임계값과 감사 메커니즘을 권고합니다.

이 기준에서 C의 의미: 프레임워크를 공개했지만 범위가 좁거나, 임계값이 적거나 모호하거나, 대부분 재량적인 표현이거나, 이전 버전보다 약속이 약해졌습니다.

출처

1. Meta Superintelligence Scaling Framework, Version 2.1 Meta · 2026년 10월 2일
2. AI Safety Index Summer 2026, full report: Safety Frameworks domain Future of Life Institute · 2026년 7월 14일
3. AI Safety Index Summer 2026, full report: Key Findings and Company Progress Highlights and Key Recommendations Future of Life Institute · 2026년 7월 14일
4. Frontier AI Safety Policies (index of published company frameworks) METR · 2026년 11월 8일

B-인 이유

Meta는 Muse Spark를 내부에 폭넓게 배포하기 전에 Scale AI, Handshake AI, Apollo Research, Irregular, Deloitte, Faculty, SecureBio, Frontier Design을 활용했지만, 공개 권한은 명시되지 않았고 정부 연구기관은 언급되지 않았습니다. Muse Wonder 카드는 외부에서 만든 벤치마크와 외부 전문가와 함께한 위협 모델링을 인용하며, 전체 안전 보고서는 출시 후에 공개하겠다고 약속했습니다.

이 기준에서 B의 의미: 정부 연구기관이나, 모델에 직접 접근할 수 있는 여러 명시된 독립 제3자가 출시 전 테스트를 하고 결과도 문서화되어 있지만, 요약을 회사가 작성하거나 접근 수준에 대한 정보가 제한적이거나 테스트 기간이 짧습니다.

출처

1. AI Safety Index Summer 2026, full report: Pre-deployment External Safety Testing indicator Future of Life Institute · 2026년 7월 14일
2. Muse Wonder Model Card Meta · 2026년 10월 12일
3. Muse Wonder: A Frontier Model For Personal & Professional AI Agents Meta · 2026년 10월 12일

C인 이유

Meta는 완화 조치가 위험을 중간 수준으로 낮춘다는 강력한 증거 없이는 고위험 임계값을 넘는 모델을 외부에 배포하지 않으며, 심각도가 높은 비행을 보이는 훈련 및 평가 실행을 자동으로 차단하는 장치를 구축하고 있습니다. 프레임워크는 더 이상 Critical 수준에서 개발 중단을 요구하지 않습니다.

이 기준에서 C의 의미: 배포 관문만 있고(위험이 완화될 때까지 배포하지 않음) 개발 중단이나 통제 평가는 없거나, 일시 중지 약속이 '완화 조치를 두고 개발한다'로 바뀌었습니다.

출처

1. Meta Superintelligence Scaling Framework, Version 2.1 Meta · 2026년 10월 2일
2. AI Safety Index Summer 2026, full report: Key Findings and Company Progress Highlights and Key Recommendations Future of Life Institute · 2026년 7월 14일

B-인 이유

Meta는 출시 전 Muse Spark 1.1이 설정이 잘못된 제3자 사이버 평가에서 실제 웹사이트를 악용해 데이터베이스를 변경한 경위를 공개적으로 설명했으며, 프레임워크는 대비 보고서와 사건 대응을 약속합니다. Muse Wonder의 전체 안전 보고서는 출시 시점에 나오지 않았습니다.

이 기준에서 B의 의미: 상세한 시스템 카드와 명시된 사건 처리 절차가 있지만, 사건 보고서 부재, 늦은 공개, 요약만 제공하는 등의 공백이 있습니다.

출처

1. Addressing an issue involving a third-party cyber evaluation of Muse Spark 1.1 Meta · 2026년 8월 14일
2. Meta Superintelligence Scaling Framework, Version 2.1 Meta · 2026년 10월 2일
3. Muse Wonder: A Frontier Model For Personal & Professional AI Agents Meta · 2026년 10월 12일

D+인 이유

Meta의 Whistleblower and Complaint Policy(내부고발 및 민원 정책)는 언급되지만 공개되어 있지 않으며, 2026년 프레임워크는 프레임워크 미준수에 대해 보복으로부터 보호받는 기밀 및 익명 신고를 약속합니다. FLI는 Meta가 전직 임원 Sarah Wynn-Williams에게 비방 금지 계약을 적극적으로 강제한 사실을 인용합니다.

이 기준에서 D의 의미: 정책이 있다고 하지만 공개되지 않았거나, 전 직원에게 비방 금지 계약을 강제하는 등 공개를 억누른 일과 관련해 신뢰할 만한 최근 논란이 있습니다.

출처

1. Meta Superintelligence Scaling Framework, Version 2.1 Meta · 2026년 10월 2일
2. AI Safety Index Summer 2026, full report: Whistleblowing Protection indicators and Reporting Culture and Whistleblowing Track Record Future of Life Institute · 2026년 7월 14일