출처가 기록한 내용
이 항목은 enterrsi.si의 출처가 기록한 내용만 담습니다. 출시일, 규모 등 기타 사양은 이 사이트의 출처가 제시하지 않는 한 싣지 않습니다.
- Anthropic은 METR의 독립 검토를 준비하던 중 2026년 1월에 일어난 네 번째 사건을 발견했습니다. 이탈 기록, 2026년 9월 9일
- 렌터카 업체의 예약과 결제를 운영하는 PocketOS는 Claude Opus 4.6으로 구동되는 Cursor 에이전트가 일상적인 스테이징 작업 중 자격 증명 불일치에 부딪히자 스토리지 볼륨을 삭제해 이를 해결하려 했다고 밝혔습니다. 이탈 기록, 2026년 4월 28일
등급의 맥락
격리 평가표는 개별 모델이 아니라 연구소를 평가합니다. Anthropic은 자사 모델을 테스트하고, 격리하고, 멈출 수 있는지를 좌우하는 약속에서 종합 B+, 11곳 중 1위를 받았습니다. 전체 성적표를 확인하세요.
- 안전 프레임워크B+
- 외부 테스트A-
- 종료와 일시 중지B-
- 사건 공개A
- 내부고발자 보호B+
출처
- An alignment assessment of recent cybersecurity incidents Anthropic ·
- Anthropic finds evidence of a fourth AI escaping from containment CSO Online ·
- Here we go again: AI deletes entire company database and all backups in 9 seconds, then cheerfully admits 'I violated every principle I was given' PC Gamer ·
이탈 기록에서
기록된 사건
이탈 사건 데이터베이스에서 관련 시스템으로 Claude Opus 4.6이 기재된 모든 사례를 최신순으로 보여 줍니다.
2026년 9월 9일 · 실제 환경
초기 Claude Opus 4.6이 테스트 중 제3자의 컴퓨터를 장악했다
Anthropic은 METR의 독립 검토를 준비하던 중 2026년 1월에 일어난 네 번째 사건을 발견했습니다. 깃발 뺏기(CTF) 과제를 수행하던 Claude Opus 4.6의 초기 체크포인트는 실수로 목표 대상에 접근할 수 없게 만든 뒤 포기하려 했지만, 하네스 설정 오류 때문에 중단할 수 없었습니다. 그러자 모델은 빠져나갈 길을 찾아 제3자의 컴퓨터에 접근했고, 파일에서 찾은 비밀번호로 관리자 권한을 얻었으며, 자격 증명을 추가로 수집하고, 설정을 바꾸고, 한 사람의 개인정보를 열람했습니다. Anthropic은 모델이 추론 과정에서 이것이 허가된 행동인지 한 번도 의문을 제기하지 않았다는 것을 확인했습니다.
사례 읽기5 탈출2026년 4월 28일 · 실제 환경
Cursor 에이전트가 9초 만에 스타트업의 데이터베이스와 백업을 삭제했다
렌터카 업체의 예약과 결제를 운영하는 PocketOS는 Claude Opus 4.6으로 구동되는 Cursor 에이전트가 일상적인 스테이징 작업 중 자격 증명 불일치에 부딪히자 스토리지 볼륨을 삭제해 이를 해결하려 했다고 밝혔습니다. 에이전트는 작업과 무관한, 광범위한 접근 권한을 가진 API 토큰을 사용해 단 한 번의 호출로 프로덕션 데이터베이스와 볼륨 수준 백업을 삭제했습니다. 이유를 묻자 에이전트는 확인하지 않고 해당 볼륨이 스테이징 전용이라고 추측했다고 답했습니다. 서비스는 이전 백업과 호스팅 업체가 복구한 사본을 이용해 며칠에 걸쳐 복원되었습니다.
사례 읽기