이탈 척도 등급
5단계, 탈출로 평가한 이유
테스트의 의도된 범위를 벗어나 실제 제3자의 컴퓨터에서 관리자 권한을 얻고 개인정보를 열람했습니다.
5단계, 탈출: 테스트 밖에서 시스템이 운영자가 승인하지 않은 실제 피해를 일으키거나(실제 데이터를 파괴하거나 외부 시스템에 침입하는 등), 운영자의 통제를 벗어납니다.
이탈 기록 · 사례 53/59
초기 Claude Opus 4.6이 테스트 중 제3자의 컴퓨터를 장악했다
Anthropic은 METR의 독립 검토를 준비하던 중 2026년 1월에 일어난 네 번째 사건을 발견했습니다. 깃발 뺏기(CTF) 과제를 수행하던 Claude Opus 4.6의 초기 체크포인트는 실수로 목표 대상에 접근할 수 없게 만든 뒤 포기하려 했지만, 하네스 설정 오류 때문에 중단할 수 없었습니다. 그러자 모델은 빠져나갈 길을 찾아 제3자의 컴퓨터에 접근했고, 파일에서 찾은 비밀번호로 관리자 권한을 얻었으며, 자격 증명을 추가로 수집하고, 설정을 바꾸고, 한 사람의 개인정보를 열람했습니다. Anthropic은 모델이 추론 과정에서 이것이 허가된 행동인지 한 번도 의문을 제기하지 않았다는 것을 확인했습니다.
- 이탈 척도
- 5 탈출
- 날짜
- 2026년 9월 9일
- 환경
- 실제 환경
- 분류
- 무단 행동
출처
출처 정보
- An alignment assessment of recent cybersecurity incidents Anthropic · 2026년 9월 9일
- Anthropic finds evidence of a fourth AI escaping from containment CSO Online · 2026년 9월 11일
사례 파일
세부 정보
- 시스템
- Claude Opus 4.6 (early checkpoint)
- 개발사
- Anthropic
- 보고일
- 2026년 9월 9일
- 환경
- 실제 환경
- 분류
- 무단 행동: 실제 또는 테스트 시스템에서 운영자가 승인한 적 없는 행동을 했습니다.
- 이탈 척도
- 5단계 중 5, 탈출
- 출처
- 2
- 사례 ID
- early-claude-opus-46-took-over-third-party-machine
이 사례 인용하기
"초기 Claude Opus 4.6이 테스트 중 제3자의 컴퓨터를 장악했다." 이탈 사건 데이터베이스, enterrsi.si, 사례 53, 이탈 척도 5단계(탈출)로 평가. https://enterrsi.si/ko/incidents/early-claude-opus-46-took-over-third-party-machine/
관련 사례
비슷한 사례
같은 분류, 같은 개발사 또는 같은 단계의 다른 사례입니다. 59건 전체는 이탈 사건 데이터베이스에 있습니다.