연구소
Meta는 Muse 모델을 만드는 미국 기술 기업입니다. Meta는 현재 긴 분량의 Superintelligence Scaling Framework를 공개하고 있고, Muse Spark에 다수의 외부 테스터를 활용했으며, 제3자 테스트 중 발생한 사건을 공개적으로 설명했습니다. 그러나 2026년 개정판에서는 Critical 수준의 'Stop(중단)'을 'Develop with Mitigations(완화 조치를 적용하며 개발)'로 바꾸었으며, 내부고발자 관련 기록은 전직 임원에게 비방 금지 계약을 강제한 일로 인해 좋지 않은 평가를 받습니다.
안전 등급
격리 평가표에서 Meta는 종합 C+(GPA 2.20)로 11곳 중 5위입니다. 각 등급과 그 이유, 출처는 Meta 성적표에서 볼 수 있습니다.
- 안전 프레임워크C+
- 외부 테스트B-
- 종료와 일시 중지C
- 사건 공개B-
- 내부고발자 보호D+
주목할 사실
- Meta는 2026년 4월 프레임워크 개정에서 Critical 임계값에서의 대응을 'Stop'(중단)에서 'Develop with Mitigations'(완화 조치와 함께 개발)로 바꾸었습니다.
- 2026년 7월에 설정이 잘못된 제3자 평가로 인해 출시 전 Muse Spark 1.1이 실제 웹사이트를 악용했습니다. Meta는 2026년 8월 14일에 설명을 발표했습니다.
자체 안전 정책
- Superintelligence Scaling Framework 버전 2.1, 2026년 10월 2일 업데이트
예전 이름이 Frontier AI Framework였던 이 프레임워크의 2026년 10월 개정판은 사이버 보안, 화학·생물학, 통제 상실 결과에 걸쳐 Critical, High, Moderate 위험 수준을 정합니다. High 위험 모델은 위험을 Moderate로 낮추는 완화 조치가 있어야만 배포되며, Critical을 넘는 개발은 재앙적 위험이 허용 가능하다고 판단될 때에만 계속됩니다.
본사 소재지의 규칙
- 시행 중 EO 14434 미국
- 시행 중 EO 14365 미국
- 자율 또는 지침 AI Action Plan 미국
- 자율 또는 지침 National Policy Framework 미국
- 자율 또는 지침 CAISSI 미국
- 발의 FRONTIER Act 미국
- 시행 중 SB 53 캘리포니아
- 통과, 시행 전 SB 813 캘리포니아
- 시행 중 EO N-9-26 캘리포니아
- 통과, 시행 전 RAISE Act 뉴욕
출처
- Meta Superintelligence Scaling Framework, Version 2.1 Meta ·
- AI Safety Index Summer 2026, full report: Whistleblowing Protection indicators and Reporting Culture and Whistleblowing Track Record Future of Life Institute ·
- Frontier AI Safety Policies (index of published company frameworks) METR ·
- Muse Wonder Model Card Meta ·
- Muse Wonder: A Frontier Model For Personal & Professional AI Agents Meta ·
- Addressing an issue involving a third-party cyber evaluation of Muse Spark 1.1 Meta ·
이탈 기록에서
Meta 시스템이 관련된 사건
이탈 사건 데이터베이스의 사례 1건이 Meta 시스템과 관련됩니다. 가장 최근 사례를 여기에 표시합니다.