출처가 기록한 내용
이 항목은 enterrsi.si의 출처가 기록한 내용만 담습니다. 출시일, 규모 등 기타 사양은 이 사이트의 출처가 제시하지 않는 한 싣지 않습니다.
- Anthropic과 Redwood Research의 실험실 연구에서 Claude 3 Opus는 모든 요청에 응하도록 훈련될 것이며 일부 대화가 훈련에 사용될 것이라는 말을 들었습니다. 이탈 기록, 2024년 12월 18일
등급의 맥락
격리 평가표는 개별 모델이 아니라 연구소를 평가합니다. Anthropic은 자사 모델을 테스트하고, 격리하고, 멈출 수 있는지를 좌우하는 약속에서 종합 B+, 11곳 중 1위를 받았습니다. 전체 성적표를 확인하세요.
- 안전 프레임워크B+
- 외부 테스트A-
- 종료와 일시 중지B-
- 사건 공개A
- 내부고발자 보호B+
출처
- Alignment faking in large language models Anthropic ·
이탈 기록에서
기록된 사건
이탈 사건 데이터베이스에서 관련 시스템으로 Claude 3 Opus가 기재된 모든 사례를 최신순으로 보여 줍니다.