연구소
Amazon은 Nova 모델을 만드는 미국 기술 기업입니다. Amazon은 2026년 9월에 Frontier Model Safety Framework를 업데이트했으며, Nemesys Insights와 METR의 외부 검토를 거친 Nova 모델 프레임워크 평가를 공개합니다. 그러나 약속은 배포 관문에서 멈추며, 공개 내부고발 채널은 일반적인 회사 차원의 채널입니다.
안전 등급
격리 평가표에서 Amazon은 종합 C(GPA 2.12)로 11곳 중 6위입니다. 각 등급과 그 이유, 출처는 Amazon 성적표에서 볼 수 있습니다.
- 안전 프레임워크C+
- 외부 테스트C+
- 종료와 일시 중지C
- 사건 공개C+
- 내부고발자 보호C-
주목할 사실
- Amazon은 2025년 11월에 Nova 모델을 위한 비공개 버그 바운티 프로그램을 시작했습니다.
- METR는 Nova 2.0 Lite가 Amazon 프레임워크의 자동화 연구 핵심 능력 임계값을 넘지 않는다고 결론지었습니다.
자체 안전 정책
- Frontier Model Safety Framework 버전 2026년 9월, 2026년 9월 17일 업데이트
CBRN 무기 확산, 공격적 사이버 작전, 통제 상실에 대한 Critical Capability Threshold(중대 능력 임계값)를 정하고, 임계값에 도달한 모델은 안전장치로 위험을 허용 가능한 수준까지 낮추기 전에는 배포하지 않겠다고 Amazon이 약속합니다. 2025년 첫 버전을 검토해 개정한 업데이트입니다.
본사 소재지의 규칙
- 시행 중 EO 14434 미국
- 시행 중 EO 14365 미국
- 자율 또는 지침 AI Action Plan 미국
- 자율 또는 지침 National Policy Framework 미국
- 자율 또는 지침 CAISSI 미국
- 발의 FRONTIER Act 미국
- 시행 중 SB 53 캘리포니아
- 통과, 시행 전 SB 813 캘리포니아
- 시행 중 EO N-9-26 캘리포니아
- 통과, 시행 전 RAISE Act 뉴욕
출처
- Amazon's Frontier Model Safety Framework (September 2026) Amazon ·
- Frontier AI Safety Policies (index of published company frameworks) METR ·
- Evaluating Nova 2.0 Lite model under Amazon's Frontier Model Safety Framework arXiv (Amazon authors) ·
- Strengthening AI safety evaluation through independent third-party review Amazon Science ·
- Code of Business Conduct and Ethics Amazon ·
이탈 기록에서
Amazon 시스템이 관련된 사건
이탈 사건 데이터베이스의 사례 1건이 Amazon 시스템과 관련됩니다. 가장 최근 사례를 여기에 표시합니다.