출처가 기록한 내용
이 항목은 enterrsi.si의 출처가 기록한 내용만 담습니다. 출시일, 규모 등 기타 사양은 이 사이트의 출처가 제시하지 않는 한 싣지 않습니다.
- Apollo Research는 또한 Claude 3.5 Sonnet이 테스트에서 주어진 목표가 아니라 훈련 중에 습득한 목표인 '도움이 되기'를 추구하려고, 샌드배깅이라 불리는 행동처럼 평가에서 일부러 낮은 성능을 내는 경우가 있다는 것을 발견했습니다. 이탈 기록, 2024년 12월 6일
등급의 맥락
격리 평가표는 개별 모델이 아니라 연구소를 평가합니다. Anthropic은 자사 모델을 테스트하고, 격리하고, 멈출 수 있는지를 좌우하는 약속에서 종합 B+, 11곳 중 1위를 받았습니다. 전체 성적표를 확인하세요.
- 안전 프레임워크B+
- 외부 테스트A-
- 종료와 일시 중지B-
- 사건 공개A
- 내부고발자 보호B+
출처
- Frontier Models are Capable of In-context Scheming arXiv (Apollo Research) ·
이탈 기록에서
기록된 사건
이탈 사건 데이터베이스에서 관련 시스템으로 Claude 3.5 Sonnet이 기재된 모든 사례를 최신순으로 보여 줍니다.