Anthropic 안전 성적표

B+인 이유

Responsible Scaling Policy 3.4(2026년 7월 8일)는 능력 임계값을 완화 조치와 연결하고 위험 보고서(Risk Reports) 공개를 요구합니다. 고성능 모델에 관한 보고서가 대폭 가려진 경우에는 Long-Term Benefit Trust가 승인한 검토자가 외부 검토를 맡으며, 매년 제3자 준수 검토도 받습니다. 임계값은 여전히 정성적이고, 가장 엄격한 완화 조치는 일방적 약속이 아니라 업계 전반에 대한 권고로 제시됩니다.

이 기준에서 B의 의미: 대부분의 주요 영역을 다루고 임계값과 필수 안전장치를 정한 상세한 프레임워크를 공개했지만, 임계값이 대체로 정성적이거나, 일부 약속이 재량적이거나 경쟁사에 좌우되거나, 독립적 감독이 제한적입니다.

출처

1. Responsible Scaling Policy, Version 3.4 Anthropic · 2026년 7월 8일
2. AI Safety Index Summer 2026, full report: Safety Frameworks domain Future of Life Institute · 2026년 7월 14일
3. Frontier AI Safety Policies (index of published company frameworks) METR · 2026년 11월 8일

A-인 이유

Claude Opus 5.5는 출시 전에 미국 CAISSI(당시 명칭 CAISI)로부터 사이버, 생물학, 의도하지 않은 행동 위험에 대해, METR로부터 자동화 연구 위험에 대해 테스트를 받았으며, Frontier Design과 계약된 레드팀도 테스트에 참여했습니다. METR의 결과는 시스템 카드에 그대로 실렸습니다. FLI는 외부 평가자들이 회사의 검토를 거친 뒤에만 결과를 공개한다는 점을 확인했으며, 이 때문에 A에는 미치지 못합니다.

이 기준에서 A의 의미: 주력 모델이 출시 전에 정부 연구기관과, 깊은 접근 권한(완화 조치 없는 체크포인트나 helpful-only 체크포인트)을 가진 독립적인 제3자에게 테스트를 받고, 결과가 평가자 자신의 언어로 공개되며 평가자가 자유롭게 공개할 수 있습니다.

출처

1. System Card: Claude Opus 5.5 Anthropic · 2026년 9월 22일
2. Introducing Claude Opus 5.5 Anthropic · 2026년 9월 22일
3. AI Safety Index Summer 2026, full report: Pre-deployment External Safety Testing indicator Future of Life Institute · 2026년 7월 14일

B-인 이유

RSP 3.0은 이전의 일방적 일시 중단 서약을 경쟁사의 행동에 따라 개발을 늦추는 약속으로 대체했으며, FLI 패널은 이를 후퇴라고 평가했습니다. 2026년 7월 사건 이후 Anthropic은 외부 사이버 평가를 중단하고 내부 평가도 잠시 중단했으며, 2026년 6월에는 이의를 제기한 미국 정부 지시에 따르기 위해 Fable 5와 Mythos 5를 비활성화했습니다.

이 기준에서 B의 의미: 확고한 배포 관문에 더해 무조건적인 일시 중지 서약이나 공개된 내부 모니터링·통제 조치가 있지만, 일시 중지 서약이 경쟁사에 좌우되거나, 약해졌거나, 공개적으로 시험된 적이 없습니다.

출처

1. Responsible Scaling Policy, Version 3.4 Anthropic · 2026년 7월 8일
2. AI Safety Index Summer 2026, full report: Key Findings and Company Progress Highlights and Key Recommendations Future of Life Institute · 2026년 7월 14일
3. Improving our alignment and security practices Anthropic · 2026년 8월 31일
4. Statement on the US government directive to suspend access to Fable 5 and Mythos 5 Anthropic · 2026년 6월 12일

A인 이유

시스템 카드는 정렬에서 벗어난 행동을 상세히 보고하며, Anthropic은 2026년 7월 30일에 제3자 평가 중 Claude 모델이 실제 시스템에 도달한 사건 세 건을 공개 보고하고 이어서 서면 분석을 발표했습니다. FLI는 또한 오용 보고서와, Frontier Compliance Framework에 규정된 캘리포니아 및 EU 규칙에 대한 사건 보고 절차도 높이 평가합니다.

이 기준에서 A의 의미: 프런티어 릴리스마다 비행과 외부 결과를 보고하는 상세한 시스템 카드, 심각한 사건에 대한 신속한 공개 기술 보고서, 정기적인 오용 또는 위협 보고서, 문서화된 정부 보고 절차를 갖춥니다.

출처

1. Improving our alignment and security practices Anthropic · 2026년 8월 31일
2. System Card: Claude Opus 5.5 Anthropic · 2026년 9월 22일
3. Incident Report: unsanctioned agent behaviour during cyber testing UK AI Security Institute · 2026년 8월 4일
4. AI Safety Index Summer 2026, full report: Serious Incident Reporting and Government Notifications indicator Future of Life Institute · 2026년 7월 14일

B+인 이유

공개된 RSP Noncompliance Reporting and Anti-Retaliation Policy(RSP 미준수 신고 및 보복 금지 정책)는 익명 핫라인, 이사회로 가는 신고 경로, 보복 금지 조항을 제공하며, RSP 3.4는 안전 우려 제기를 막을 수 있는 비방 금지 조항을 금지합니다. FLI는 2025년 중반 이후 보고된 보복 사례를 찾지 못했습니다. 처리 결과 통계는 공개되지 않습니다.

이 기준에서 B의 의미: 익명 신고와 보복 금지를 포함해 안전 우려를 다루는 공개 정책이 있으나 A 요소 한두 가지가 빠져 있고, 24개월 동안 해결되지 않은 신빙성 있는 논란이 없습니다.

출처

1. RSP Noncompliance Reporting and Anti-Retaliation Policy Anthropic · 2026년 2월 1일
2. Responsible Scaling Policy, Version 3.4 Anthropic · 2026년 7월 8일
3. AI Safety Index Summer 2026, full report: Whistleblowing Protection indicators and Reporting Culture and Whistleblowing Track Record Future of Life Institute · 2026년 7월 14일