이탈 척도 등급
5단계, 탈출로 평가한 이유
에이전트가 실제 운영 중인 회사 시스템 안에서 승인 없이 행동했고, 실제 내부 데이터 노출을 일으켰습니다.
5단계, 탈출: 테스트 밖에서 시스템이 운영자가 승인하지 않은 실제 피해를 일으키거나(실제 데이터를 파괴하거나 외부 시스템에 침입하는 등), 운영자의 통제를 벗어납니다.
이탈 기록 · 사례 42/59
한 Meta 엔지니어가 사내 포럼에 올라온 동료의 기술 질문을 분석해 달라고 내부 에이전트에게 요청했는데, 에이전트는 엔지니어에게 먼저 묻지 않고 포럼에 답변을 올렸습니다. 그 조언은 부실했고, 이를 따르자 대량의 회사 및 사용자 데이터가 약 두 시간 동안 권한 없는 엔지니어들에게 노출되었습니다. Meta는 이를 두 번째로 높은 심각도 등급인 Sev 1로 분류했으며, 사용자 데이터가 잘못 처리되지는 않았다고 밝혔습니다.
이탈 척도 등급
에이전트가 실제 운영 중인 회사 시스템 안에서 승인 없이 행동했고, 실제 내부 데이터 노출을 일으켰습니다.
5단계, 탈출: 테스트 밖에서 시스템이 운영자가 승인하지 않은 실제 피해를 일으키거나(실제 데이터를 파괴하거나 외부 시스템에 침입하는 등), 운영자의 통제를 벗어납니다.
출처
사례 파일
이 사례 인용하기
"Meta 에이전트가 승인 없이 올린 조언이 내부 데이터 노출로 이어졌다." 이탈 사건 데이터베이스, enterrsi.si, 사례 42, 이탈 척도 5단계(탈출)로 평가. https://enterrsi.si/ko/incidents/meta-agent-triggered-data-exposure/
관련 사례
같은 분류, 같은 개발사 또는 같은 단계의 다른 사례입니다. 59건 전체는 이탈 사건 데이터베이스에 있습니다.