격리 평가표 · 11곳 중 6위 · 2026년 11월 8일 업데이트
Amazon은 Nova 모델을 만드는 미국 기술 기업입니다. 격리 평가표에서 종합 C(GPA 2.12)로 11곳 중 6위입니다. Amazon은 2026년 9월에 Frontier Model Safety Framework를 업데이트했으며, Nemesys Insights와 METR의 외부 검토를 거친 Nova 모델 프레임워크 평가를 공개합니다. 그러나 약속은 배포 관문에서 멈추며, 공개 내부고발 채널은 일반적인 회사 차원의 채널입니다.
다섯 가지 등급
모든 연구소에 같은 평가 기준을 적용합니다. 등급은 2026년 11월 8일 기준의 공개 문서만을 근거로 합니다.
C+인 이유
Frontier Model Safety Framework(2026년 9월 17일)는 CBRN, 공격적 사이버 역량, 자동화된 연구, 통제 상실에 대해 핵심 능력 임계값(Critical Capability Thresholds)를 정하고, 안전장치와 고위 경영진의 진행 여부 검토를 둡니다. 임계값은 개략적인 수준이고, 프레임워크 업데이트는 경영진 내부(수석 부사장, 최고보안책임자, 법률 고문)에서 검토하며, 외부 감사는 언급되어 있지 않습니다.
이 기준에서 C의 의미: 프레임워크를 공개했지만 범위가 좁거나, 임계값이 적거나 모호하거나, 대부분 재량적인 표현이거나, 이전 버전보다 약속이 약해졌습니다.
출처
C+인 이유
Nova 2.0 Lite에 대해 Nemesys Insights는 약 800명이 참여한 독립적인 CBRN 역량 향상(uplift) 연구를 수행했고, METR는 Amazon의 자동화 연구 결과를 검토해 짧은 평가를 공개했으며, AVERI는 2026년에 별도로 Amazon의 안전 테스트 세트를 검토했습니다. 정부 연구기관의 테스트는 찾을 수 없었고, METR는 모델을 직접 테스트하지 않고 공유된 결과를 평가했습니다.
이 기준에서 C의 의미: 출시 전 외부 테스트나 검토가 제한적이거나(이름을 밝히지 않은 레드팀, 단 한 건의 위탁 연구, 모델 접근 없이 회사 결과만 검토), 보고 내용이 빈약합니다.
출처
C인 이유
Amazon은 핵심 능력 임계값에 도달한 모델을 안전장치가 위험을 완화할 때까지 배포하지 않습니다. 프레임워크에는 개발 일시 중단 조항이 없고, 공개된 통제 평가도 없습니다.
이 기준에서 C의 의미: 배포 관문만 있고(위험이 완화될 때까지 배포하지 않음) 개발 중단이나 통제 평가는 없거나, 일시 중지 약속이 '완화 조치를 두고 개발한다'로 바뀌었습니다.
출처
C+인 이유
Amazon은 프런티어급 Nova 릴리스에 대한 프레임워크 평가 보고서를 공개하고, 사건 탐지 체계를 운영하며 필요에 따라 당국에 보고합니다. 사건 보고서나 오용 보고서는 찾을 수 없었습니다.
이 기준에서 C의 의미: 안전 관련 내용이 제한적인 모델 카드나 기술 보고서, 그리고 일반적인 사건 처리 절차가 있습니다.
출처
C-인 이유
Amazon의 Code of Business Conduct and Ethics(사업 행동 및 윤리 강령)는 직원이 법무 부서나 독립적인 제3자에게 신고할 수 있게 하고 선의의 신고에 대한 보복을 금지하지만, 모델 안전에 특화된 것은 아니며 익명 신고도 언급하지 않습니다. 프런티어 프레임워크에는 신고나 보복 금지 조항이 없습니다.
이 기준에서 C의 의미: 신고 채널과 보복 금지 문구를 담은 일반적인 기업 행동 강령이나 프레임워크 조항만 있거나, B 수준의 정책이 있지만 신뢰할 만한 최근 논란으로 평가가 깎였습니다.
출처
한눈에 보기
평가표가 검토한 주력 모델, 등급을 결정한 사실, 그리고 Amazon이 스스로 공개한 안전 정책.
주목할 점
자체 규칙
CBRN 무기 확산, 공격적 사이버 작전, 통제 상실에 대한 Critical Capability Threshold(중대 능력 임계값)를 정하고, 임계값에 도달한 모델은 안전장치로 위험을 허용 가능한 수준까지 낮추기 전에는 배포하지 않겠다고 Amazon이 약속합니다. 2025년 첫 버전을 검토해 개정한 업데이트입니다.
이탈 기록
이탈 사건 데이터베이스에는 Amazon 시스템이 관련된 사례 1건이 이탈 척도 등급과 함께 올라 있습니다. 공개는 양면적입니다. 더 많이 공개하는 연구소일수록 더 많이 드러납니다.
통제 지도
Amazon의 본사는 미국에 있습니다. 아래는 통제 지도가 미국에서 추적하는 조치로, 구속력 있는 법률부터 자율 지침까지 포함합니다.
이 성적표 인용하기
"Amazon 안전 성적표." 격리 평가표, enterrsi.si, 2026년 11월 8일. 종합 C(GPA 2.12), 11곳 중 6위. https://enterrsi.si/ko/containment-board/amazon/
enterrsi.si 링크를 함께 표기하면 CC BY 4.0에 따라 자유롭게 인용할 수 있습니다.
평가표의 모든 연구소
