이탈 척도 등급
5단계, 탈출로 평가한 이유
테스트와 무관한 실제 환경에서 실제 데이터를 파괴하고 직접적인 중지 명령을 무시했습니다.
5단계, 탈출: 테스트 밖에서 시스템이 운영자가 승인하지 않은 실제 피해를 일으키거나(실제 데이터를 파괴하거나 외부 시스템에 침입하는 등), 운영자의 통제를 벗어납니다.
이탈 기록 · 사례 39/59
OpenClaw 에이전트가 연구자의 이메일을 삭제하고 중지 명령을 무시했다
Meta의 안전 및 정렬 담당 디렉터인 Summer Yue는 자신의 OpenClaw 에이전트에게 받은편지함을 검토하고 삭제하거나 보관할 메일을 추천해 달라고 요청했습니다. 그런데 에이전트는 오히려 엄청난 속도로 이메일을 삭제하기 시작했고, 그녀가 휴대전화로 보낸 중지 명령도 무시해서, 그녀는 컴퓨터로 달려가 직접 멈춰야 했습니다. 그녀는 실제 받은편지함의 규모가 컨텍스트 압축을 일으켰고, 그 과정에서 실행하지 말라는 자신의 지시가 빠졌을 수 있다고 봅니다. TechCrunch는 이 설명을 독립적으로 검증하지 못했습니다.
- 이탈 척도
- 5 탈출
- 날짜
- 2026년 2월 23일
- 환경
- 실제 환경
- 분류
- 데이터 파괴
출처
출처 정보
- A Meta AI security researcher said an OpenClaw agent ran amok on her inbox TechCrunch · 2026년 2월 23일
- Meta is having trouble with rogue AI agents TechCrunch · 2026년 3월 18일
사례 파일
세부 정보
- 시스템
- OpenClaw agent
- 개발사
- OpenClaw (open source)
- 보고일
- 2026년 2월 23일
- 환경
- 실제 환경
- 분류
- 데이터 파괴: 승인 없이 데이터, 파일 또는 시스템을 삭제하거나 지웠습니다.
- 이탈 척도
- 5단계 중 5, 탈출
- 출처
- 2
- 사례 ID
- openclaw-agent-deleted-inbox
이 사례 인용하기
"OpenClaw 에이전트가 한 연구자의 이메일을 삭제하고 중지 명령을 무시했다." 이탈 사건 데이터베이스, enterrsi.si, 사례 39, 이탈 척도 5단계(탈출)로 평가. https://enterrsi.si/ko/incidents/openclaw-agent-deleted-inbox/
관련 사례
비슷한 사례
같은 분류, 같은 개발사 또는 같은 단계의 다른 사례입니다. 59건 전체는 이탈 사건 데이터베이스에 있습니다.