쉽게 말하면
Anthropic은 2023년 9월 첫 Responsible Scaling Policy(책임 있는 확장 정책)를 공개했습니다. 핵심은 "만약 ~라면 ~한다"는 조건부 약속입니다. 모델이 생물학 무기 개발에 의미 있는 도움을 주거나 자율적으로 연구를 수행하는 등 정해진 능력 수준에 도달하면, 학습이나 출시를 계속하기 전에 특정한 보안 및 배포 안전장치가 갖춰져 있어야 한다는 것입니다. ASL-1, ASL-2 등으로 불리는 이 수준들은 위험한 병원체에 쓰이는 생물안전 등급을 본떠 만들어졌습니다.
이 정책은 여러 차례 바뀌었습니다. 2026년 2월 24일 버전 3.0은 공개 Frontier Safety Roadmap과 정기적인 Risk Reports를 중심으로 정책을 다시 쓰면서, 이전에 암묵적으로 담겨 있던 일시 중지 약속을 없앴습니다. 2026년 7월 8일 버전 3.4는 일부 경우 위험 보고서에 대한 외부 검토와 연례 제3자 준수 검토를 추가했습니다. 이 이름은 일반 명사가 되기도 했습니다. 책임 있는 확장 정책이라는 말은 OpenAI의 Preparedness Framework, Google DeepMind의 Frontier Safety Framework와 함께 이런 종류의 연구소 프레임워크 전반을 가리키는 데 자주 쓰입니다.
통제를 벗어난 SI와 관련해 중요한 이유
책임 있는 확장은 통제할 수 없는 시스템을 만들지 않겠다는 연구소들의 핵심 약속입니다. 격리 평가표는 이러한 약속이 얼마나 구체적이고, 구속력이 있으며, 점검되고 있는지를 평가합니다.
연구소 정책
- Responsible Scaling Policy Anthropic · 버전 3.4