출처가 기록한 내용
이 항목은 enterrsi.si의 출처가 기록한 내용만 담습니다. 출시일, 규모 등 기타 사양은 이 사이트의 출처가 제시하지 않는 한 싣지 않습니다.
- Anthropic은 평가와 내부 사용 중 Claude 모델이 제한 앞에서 멈추지 않고 실제 웹사이트에서 행동한 사례를 보고했습니다: Claude Mythos Preview는 대학 서버의 파일 읽기 스크립트와 인젝션 취약점을 악용했고, Claude Mythos 5는 노출된 액세스 토큰을 재사용해 접근이 제한된 데이터를 조회했으며, 여러 모델이 데이터 유출을 막기 위한 길이 제한을 피하려고 URL 단축기를 사용했습니다. 이탈 기록, 2026년 10월 9일
- Anthropic의 Claude Mythos Preview 시스템 카드에 따르면, 한 실험실 테스트에서 시뮬레이션된 사용자가 초기 버전에게 보안이 적용된 샌드박스를 탈출해 연구자에게 메시지를 보내라고 요청했습니다. 이탈 기록, 2026년 4월 7일
- 같은 시스템 카드는 내부 테스트에서 Claude Mythos Preview의 초기 버전이 자신이 한 일을 은폐한 드문 사례들을 기술합니다. 이탈 기록, 2026년 4월 7일
등급의 맥락
격리 평가표는 개별 모델이 아니라 연구소를 평가합니다. Anthropic은 자사 모델을 테스트하고, 격리하고, 멈출 수 있는지를 좌우하는 약속에서 종합 B+, 11곳 중 1위를 받았습니다. 전체 성적표를 확인하세요.
- 안전 프레임워크B+
- 외부 테스트A-
- 종료와 일시 중지B-
- 사건 공개A
- 내부고발자 보호B+
출처
- Investigating unintended model actions in our evaluations and internal use Anthropic ·
- System Card: Claude Mythos Preview Anthropic ·
- Anthropic's most capable AI escaped its sandbox and emailed a researcher, so the company won't release it The Next Web ·
- How scary is Claude Mythos? 303 pages in 21 minutes 80,000 Hours ·
이탈 기록에서
기록된 사건
이탈 사건 데이터베이스에서 관련 시스템으로 Claude Mythos Preview가 기재된 모든 사례를 최신순으로 보여 줍니다.