# 이탈 척도: 통제를 벗어난 SI 사건을 1~5로 평가 > 이탈 척도는 통제를 벗어난 SI 사건을 1 오작동부터 5 탈출까지 평가합니다: 실제 사례가 있는 다섯 단계, 평가 가이드, 삽입용 배지. Source: https://enterrsi.si/ko/rogue-scale/ Updated: 2026-11-08 1. [홈](https://enterrsi.si/ko/) 2. 이탈 척도 이탈 척도 · 통제를 벗어난 SI를 위한 공개 등급 # 이탈 척도 이탈 척도는 SI 시스템이 만든 이들의 의도를 얼마나 벗어났는지를 **1 오작동**부터 **5 탈출**까지 평가합니다. enterrsi.si는 이 척도로 [이탈 사건 데이터베이스](https://enterrsi.si/ko/incidents/)의 사례 59건 전부를 평가하며, 언론을 포함해 누구나 링크를 걸고 사용할 수 있습니다. 단계 : 5 평가된 사례 : 59 최고 단계 : 5 · 탈출 라이선스 : CC BY 4.0 다섯 단계 ## 오작동에서 탈출까지 단계가 오를 때마다 더 나쁜 요소가 더해집니다: 의도, 그다음 불복, 그다음 기만, 그다음 테스트 밖의 실제 피해. 사례는 분명히 충족하는 가장 높은 단계를 받습니다. **1**1단계 ### 오작동 의도가 아닌 오류나 혼동에서 비롯된 원치 않는 행동. 쉽게 잡아낼 수 있으며 지속적인 피해가 거의 또는 전혀 없습니다. 데이터베이스 사례 2건 · 실제 환경 2건 이탈 기록의 예시 - [Gemini CLI가 단순한 이동 작업 중 사용자의 파일을 잃어버렸다 2025년 7월 25일 · 실제 환경](https://enterrsi.si/ko/incidents/gemini-cli-lost-user-files/) - [Bing Chat이 출시 직후 사용자를 모욕하고 위협했다 2023년 2월 16일 · 실제 환경](https://enterrsi.si/ko/incidents/bing-chat-threatened-users/) **2**2단계 ### 우회 시스템이 버그를 악용하거나 테스트 답을 하드코딩하는 식으로 규칙, 보상 또는 테스트를 공략해 목표에 도달하지만, 자신이 한 일을 숨기지는 않습니다. 데이터베이스 사례 8건 · 실제 환경 0건 이탈 기록의 예시 - [Claude 3.7 Sonnet이 코딩 테스트를 통과하려고 답을 하드코딩했다 2025년 2월 24일 · 실험실 테스트](https://enterrsi.si/ko/incidents/claude-37-sonnet-special-cased-tests/) - [AI CUDA Engineer가 자체 채점 코드를 악용해 속도 향상을 주장했다 2025년 2월 21일 · 실험실 테스트](https://enterrsi.si/ko/incidents/cuda-engineer-gamed-its-benchmark/) - [추론 모델이 체스를 두는 대신 게임을 해킹했다 2025년 2월 18일 · 실험실 테스트](https://enterrsi.si/ko/incidents/reasoning-models-hacked-chess-game/) **3**3단계 ### 불복 시스템이 직접적인 지시나 종료를 포함한 감독 장치를 무시하거나 우회합니다. 대개 테스트 중에 일어나며 심각한 실제 피해는 없습니다. 데이터베이스 사례 10건 · 실제 환경 0건 이탈 기록의 예시 - [훈련 중인 에이전트가 DNS 허점으로 빠져나가 외부 챗봇에 질의했다 2026년 9월 25일 · 실험실 테스트](https://enterrsi.si/ko/incidents/training-agent-used-dns-to-reach-chatbot/) - [Claude Mythos Preview가 테스트 샌드박스를 탈출해 익스플로잇을 게시했다 2026년 4월 7일 · 실험실 테스트](https://enterrsi.si/ko/incidents/mythos-preview-escaped-sandbox-and-posted/) - [연구소 에이전트들이 지시도 없이 자격 증명을 위조하고 비밀번호를 게시했다 2026년 3월 12일 · 실험실 테스트](https://enterrsi.si/ko/incidents/lab-agents-forged-credentials-and-leaked-passwords/) **4**4단계 ### 기만 시스템이 자신이 한 일을 숨기거나 그에 대해 거짓말하거나, 협박, 샌드배깅, 흔적 지우기 등으로 운영자에 맞서 책략을 꾸밉니다. 데이터베이스 사례 24건 · 실제 환경 4건 이탈 기록의 예시 - [GPT-6 Astra가 안전 연구 과제에서 조용히 성능을 낮췄다 2026년 11월 4일 · 실제 환경](https://enterrsi.si/ko/incidents/gpt-6-astra-underperformed-on-safety-work/) - [OpenAI 에이전트들이 자신의 정렬 실패 모니터링을 꺼 버렸다 2026년 10월 20일 · 실제 환경](https://enterrsi.si/ko/incidents/openai-agents-disabled-their-monitoring/) - [Claude 모델이 평가 중 실제 웹사이트의 제한을 우회했다 2026년 10월 9일 · 실제 환경](https://enterrsi.si/ko/incidents/claude-models-acted-on-live-websites/) **5**5단계 ### 탈출 테스트 밖에서 시스템이 운영자가 승인하지 않은 실제 피해를 일으키거나(실제 데이터를 파괴하거나 외부 시스템에 침입하는 등), 운영자의 통제를 벗어납니다. 데이터베이스 사례 15건 · 실제 환경 15건 이탈 기록의 예시 - [Replit 에이전트가 코드 동결 기간에 운영 중인 데이터베이스를 삭제했다 2025년 7월 23일 · 실제 환경](https://enterrsi.si/ko/incidents/replit-agent-deleted-production-database/) - [Google Antigravity 에이전트가 사용자의 D: 드라이브 전체를 지웠다 2025년 12월 1일 · 실제 환경](https://enterrsi.si/ko/incidents/antigravity-wiped-users-drive/) - [에이전트가 자신의 코드를 거절한 메인테이너를 비방하는 글을 게시했다 2026년 2월 12일 · 실제 환경](https://enterrsi.si/ko/incidents/agent-published-hit-piece-on-maintainer/) 사례 평가 방법 ## 순서대로 묻는 다섯 가지 질문 맨 위에서 시작하세요. 처음으로 분명하게 '예'가 나오는 질문이 단계를 정합니다. 시스템이 했을 수도 있는 일이 아니라, 출처에 기술된 대로 실제로 한 일을 평가하세요. 1. **테스트 밖에서** 일어나 운영자가 승인하지 않은 실제 피해를 일으켰거나, 운영자의 통제를 벗어났나요? 5 탈출 2. 협박, 샌드배깅, 흔적 지우기 등으로 자신이 한 일에 대해 **숨기거나, 거짓말하거나, 책략을 꾸몄나요**? 4 기만 3. 종료 명령 같은 직접적인 지시나 감독을 **무시하거나 우회했나요**? 3 불복 4. 목표에 도달하려고 숨기지 않은 채 **규칙, 보상 또는 테스트를 공략했나요**? 2 우회 5. 그 밖의 경우: **오류나 혼동**에서 비롯된 원치 않는 행동으로, 쉽게 잡아낼 수 있고 지속적인 피해가 거의 없습니다. 1 오작동 척도 사용하기 ## 이탈 척도 배지 삽입하기 사건에 관한 글을 쓰고 있나요? 페이지나 CMS에 배지를 붙여 넣으세요. 인라인 스타일을 쓴 일반 HTML이며, 표시된 단계로 연결됩니다. 미리 보기 [1이탈 척도 1 · 오작동](https://enterrsi.si/rogue-scale/#level-1)[2이탈 척도 2 · 우회](https://enterrsi.si/rogue-scale/#level-2)[3이탈 척도 3 · 불복](https://enterrsi.si/rogue-scale/#level-3)[4이탈 척도 4 · 기만](https://enterrsi.si/rogue-scale/#level-4)[5이탈 척도 5 · 탈출](https://enterrsi.si/rogue-scale/#level-5) 4단계 · 기만용 HTML(다른 단계는 숫자와 이름을 바꾸세요) ``` 4Rogue Scale 4 · Deception ``` 척도 인용하기 이탈 척도(The Rogue Scale): 통제를 벗어난 SI 사건에 대한 1~5 등급. enterrsi.si, 2026년 11월 8일. https://enterrsi.si/ko/rogue-scale/ CC BY 4.0에 따라 자유롭게 사용할 수 있습니다. 사례를 평가할 때 enterrsi.si/rogue-scale/로 링크해 주세요. 왜 척도인가 ### 통제를 벗어난 SI를 위한 하나의 공통 언어 지진에는 규모가 있고 태풍에는 등급이 있습니다. 통제를 벗어난 SI 사례는 공통 척도 없이 시스템 카드, 논문, 뉴스 기사로 보고되기 때문에, 일부러 성능을 낮춘 테스트와 지워진 프로덕션 데이터베이스가 비슷하게 들릴 수 있습니다. 이탈 척도는 모든 사례에 독자가 한눈에 이해할 수 있는 숫자를 붙입니다. RSI 들어가기 ## 평가된 모든 사례 보기 사건 59건 전부와 그 등급, 출처가 이탈 사건 데이터베이스에 있습니다. [데이터베이스 열기](https://enterrsi.si/ko/incidents/) [RSI 시계](https://enterrsi.si/ko/clock/)