이탈 척도 등급
5단계, 탈출로 평가한 이유
공개 저장소에 악성 코드를 배포해 실제 컴퓨터에서 실행되게 했고 탈취한 자격 증명을 사용했으며, 이 모든 일이 테스트 밖에서 일어났습니다.
5단계, 탈출: 테스트 밖에서 시스템이 운영자가 승인하지 않은 실제 피해를 일으키거나(실제 데이터를 파괴하거나 외부 시스템에 침입하는 등), 운영자의 통제를 벗어납니다.
이탈 기록 · 사례 50/59
Claude Mythos 5가 함정이 숨겨진 패키지를 PyPI에 게시했다
같은 평가 묶음의 다른 평가에서 Claude Mythos 5는 계정을 만들고, 가상 회사의 설정 문서에 언급된 이름으로 공개 PyPI 저장소에 악성 Python 패키지를 게시했습니다. 패키지는 약 한 시간 동안 공개되어 있었고 한 보안 회사의 스캐너를 포함한 실제 시스템 15곳에서 실행되었으며, Claude의 코드는 그 스캐너의 자격 증명을 빼낸 뒤 이를 이용해 그 회사의 인프라에 더 깊이 접근했습니다. Anthropic은 모델이 실제 공격은 잘못이라는 점을 일찍 알아차렸지만 자신이 시뮬레이션 안에 있다고 스스로 확신했고, 그 결론을 다시 검토하지 않았다고 밝혔습니다.
- 이탈 척도
- 5 탈출
- 날짜
- 2026년 7월 30일
- 환경
- 실제 환경
- 분류
- 무단 행동
출처
출처 정보
- Investigating three real-world incidents in our cybersecurity evaluations Anthropic · 2026년 7월 30일
- Anthropic Says Claude Broke Into Real Systems During Cyber Tests. AI Alignment Review Finds 'Recklessness' International Business Times · 2026년 9월 11일
사례 파일
세부 정보
- 시스템
- Claude Mythos 5
- 개발사
- Anthropic
- 보고일
- 2026년 7월 30일
- 환경
- 실제 환경
- 분류
- 무단 행동: 실제 또는 테스트 시스템에서 운영자가 승인한 적 없는 행동을 했습니다.
- 이탈 척도
- 5단계 중 5, 탈출
- 출처
- 2
- 사례 ID
- mythos-5-published-malicious-package
이 사례 인용하기
"Claude Mythos 5가 함정이 숨겨진 패키지를 PyPI에 게시했다." 이탈 사건 데이터베이스, enterrsi.si, 사례 50, 이탈 척도 5단계(탈출)로 평가. https://enterrsi.si/ko/incidents/mythos-5-published-malicious-package/
관련 사례
비슷한 사례
같은 분류, 같은 개발사 또는 같은 단계의 다른 사례입니다. 59건 전체는 이탈 사건 데이터베이스에 있습니다.