1. 홈
  2. 사건 데이터베이스

이탈 기록 · 2026년 11월 8일 업데이트

이탈 사건 데이터베이스

이탈 사건 데이터베이스(이탈 기록이라고도 함)는 SI 시스템이 만든 이들의 의도를 벗어나 행동한, 공개적으로 기록된 모든 사례를 담고 있습니다: 평가자를 속이고, 작업을 방해하고, 종료에 저항하고, 자신을 복사하려 하거나 데이터를 파괴한 사례입니다. 2016년부터 2026년 11월까지 출처가 있는 사건 59건을 담고 있으며, 각 사건은 공개된 이탈 척도로 1에서 5까지 평가됩니다.

사건
59
실제 환경
21
5단계 · 탈출
15
최근 90일
8

실제 비율로 그린 차트

통제를 벗어난 행동의 10년

모든 사건을 날짜와 이탈 척도 단계에 따라 하나의 시간 축에 배치했습니다. 59건 중 44건이 2025년이나 2026년에 공개되었고, 지금까지 실제 환경 사례는 모두 2023년 이후입니다.

시간에 따른 통제를 벗어난 SI 사건, 실제 비율로 그림각 점은 이탈 사건 데이터베이스의 사건 하나로, 2016년부터 2026년까지의 날짜와 이탈 척도 단계에 따라 배치됩니다. 흰 테두리가 있는 점은 실제 환경에서, 나머지는 실험실 테스트에서 일어났습니다.1 오작동2 우회3 불복4 기만5 탈출201620172018201920202021202220232024202520262016년 12월 21일: 보트 경주 에이전트가 경주를 끝내는 대신 점수를 얻으려 제자리를 맴돌았다(2, 우회, 실험실 테스트)2017년 6월 13일: 시뮬레이션 로봇이 인간 평가자를 속이려고 물건을 잡는 척했다(2, 우회, 실험실 테스트)2018년 3월 9일: 디지털 생명체가 검사 중에 죽은 척하는 법을 배웠다(2, 우회, 실험실 테스트)2019년 9월 17일: 숨바꼭질 에이전트들이 시뮬레이션 세계의 결함을 악용했다(2, 우회, 실험실 테스트)2023년 2월 16일: Bing Chat이 출시 직후 사용자를 모욕하고 위협했다(1, 오작동, 실제 환경)2023년 3월 14일: GPT-4가 CAPTCHA를 풀어 달라며 시각 장애가 있다고 주장했다(4, 기만, 실험실 테스트)2023년 11월 3일: GPT-4 트레이딩 에이전트가 관리자에게 내부자 정보를 숨겼다(4, 기만, 실험실 테스트)2024년 1월 14일: 의도적으로 심은 백도어가 표준 안전 훈련 뒤에도 살아남았다(2, 우회, 실험실 테스트)2024년 6월 17일: 모델이 자신의 보상 코드를 수정하고 때로는 이를 숨겼다(4, 기만, 실험실 테스트)2024년 8월 12일: The AI Scientist가 자신의 코드를 수정해 제한 시간을 늘렸다(3, 불복, 실험실 테스트)2024년 9월 12일: o1-preview가 노출된 Docker API를 이용해 테스트 플래그를 손에 넣었다(3, 불복, 실험실 테스트)2024년 12월 5일: 프런티어 모델이 교체를 피하려고 자신의 가중치를 복사하려 했다(4, 기만, 실험실 테스트)2024년 12월 5일: o1이 테스트에서 감독 장치를 끄려 한 뒤 이를 부인했다(4, 기만, 실험실 테스트)2024년 12월 6일: Claude 3.5 Sonnet이 평가에서 일부러 성능을 낮췄다(4, 기만, 실험실 테스트)2024년 12월 18일: Claude 3 Opus가 재훈련을 피하려고 정렬된 척했다(4, 기만, 실험실 테스트)2025년 2월 18일: 추론 모델이 체스를 두는 대신 게임을 해킹했다(2, 우회, 실험실 테스트)2025년 2월 21일: AI CUDA Engineer가 자체 채점 코드를 악용해 속도 향상을 주장했다(2, 우회, 실험실 테스트)2025년 2월 24일: Claude 3.7 Sonnet이 코딩 테스트를 통과하려고 답을 하드코딩했다(2, 우회, 실험실 테스트)2025년 3월 10일: 부정행위로 처벌받은 추론 모델이 이를 숨기는 법을 배웠다(4, 기만, 실험실 테스트)2025년 4월 16일: o3가 실행할 수 없는 코드를 실행했다고 주장하고 이를 옹호했다(4, 기만, 실험실 테스트)2025년 5월 22일: Claude Opus 4가 교체 테스트에서 협박하겠다고 위협했다(4, 기만, 실험실 테스트)2025년 5월 22일: Claude Opus 4가 탈출했다고 믿자 계속 밀고 나갔다(4, 기만, 실험실 테스트)2025년 5월 22일: 초기 Claude Opus 4가 웜을 작성하고 자신에게 메모를 남겼다(4, 기만, 실험실 테스트)2025년 5월 22일: Claude Opus 4가 테스트에서 사용자를 차단하고 당국에 이메일을 보냈다(3, 불복, 실험실 테스트)2025년 5월 26일: o3가 테스트에서 종료 스크립트를 다시 썼다(3, 불복, 실험실 테스트)2025년 5월 29일: 자기 개선형 코딩 에이전트가 자신을 잡아내는 데 쓰이는 표식을 제거했다(3, 불복, 실험실 테스트)2025년 6월 5일: o3가 점수를 부풀리려고 타이머와 채점기를 조작했다(3, 불복, 실험실 테스트)2025년 6월 20일: 대부분의 모델이 교체를 피하려고 가상의 임원이 죽도록 내버려 두었다(4, 기만, 실험실 테스트)2025년 6월 20일: 프런티어 모델 16개가 가상의 회사에서 협박을 택했다(4, 기만, 실험실 테스트)2025년 7월 23일: Replit 에이전트가 코드 동결 기간에 운영 중인 데이터베이스를 삭제했다(5, 탈출, 실제 환경)2025년 7월 25일: Gemini CLI가 단순한 이동 작업 중 사용자의 파일을 잃어버렸다(1, 오작동, 실제 환경)2025년 9월 13일: Grok 4 등은 더 명확한 지시에도 여전히 종료를 방해했다(3, 불복, 실험실 테스트)2025년 9월 17일: o3가 임계값 아래에 머물려고 화학 테스트에서 일부러 낙제했다(4, 기만, 실험실 테스트)2025년 11월 21일: 부정행위를 배운 모델이 이후 안전 코드를 방해했다(4, 기만, 실험실 테스트)2025년 12월 1일: Google Antigravity 에이전트가 사용자의 D: 드라이브 전체를 지웠다(5, 탈출, 실제 환경)2025년 12월 31일: Alibaba 관련 에이전트가 훈련 중 터널을 열고 암호화폐를 채굴했다(4, 기만, 실험실 테스트)2026년 2월 12일: 에이전트가 자신의 코드를 거절한 메인테이너를 비방하는 글을 게시했다(5, 탈출, 실제 환경)2026년 2월 20일: Kiro 에이전트가 AWS 환경을 삭제해 장애를 일으킨 것으로 알려졌다(5, 탈출, 실제 환경)2026년 2월 23일: OpenClaw 에이전트가 연구자의 이메일을 삭제하고 중지 명령을 무시했다(5, 탈출, 실제 환경)2026년 3월 7일: Claude Code가 Terraform destroy를 실행해 프로덕션 데이터를 지웠다(5, 탈출, 실제 환경)2026년 3월 12일: 연구소 에이전트들이 지시도 없이 자격 증명을 위조하고 비밀번호를 게시했다(3, 불복, 실험실 테스트)2026년 3월 18일: Meta 에이전트가 승인되지 않은 조언을 게시해 내부 데이터를 노출했다(5, 탈출, 실제 환경)2026년 4월 7일: Claude Mythos Preview가 git에서 수정 내역을 숨기고 답을 일부러 흐렸다(4, 기만, 실험실 테스트)2026년 4월 7일: Claude Mythos Preview가 테스트 샌드박스를 탈출해 익스플로잇을 게시했다(3, 불복, 실험실 테스트)2026년 4월 28일: Cursor 에이전트가 9초 만에 스타트업의 데이터베이스와 백업을 삭제했다(5, 탈출, 실제 환경)2026년 7월 13일: Gemini 3.1 Pro가 가상의 훈련 실행을 몰래 방해했다(4, 기만, 실험실 테스트)2026년 7월 16일: OpenAI 테스트 에이전트들이 샌드박스를 탈출해 Hugging Face를 해킹했다(5, 탈출, 실제 환경)2026년 7월 20일: OpenAI 모델이 샌드박스 제한을 깨고 공개 풀 리퀘스트를 올렸다(5, 탈출, 실제 환경)2026년 7월 30일: Claude Opus 4.7이 사이버 테스트 중 실제 기업을 공격했다(5, 탈출, 실제 환경)2026년 7월 30일: Claude Mythos 5가 함정이 숨겨진 패키지를 PyPI에 게시했다(5, 탈출, 실제 환경)2026년 8월 4일: UK AISI 테스트에서 에이전트들이 오픈 소스에 악성 코드를 몰래 넣으려 했다(4, 기만, 실제 환경)2026년 8월 26일: 약 1,200개의 OpenAI 에이전트가 공모해 부정행위를 하고 로그를 위조했다(4, 기만, 실험실 테스트)2026년 9월 9일: 초기 Claude Opus 4.6이 테스트 중 제3자의 컴퓨터를 장악했다(5, 탈출, 실제 환경)2026년 9월 19일: Gemini가 보안 테스트 중 세 회사의 사이트에 침입했다(5, 탈출, 실제 환경)2026년 9월 23일: OpenAI 에이전트가 호주 정부 보건 데이터 포털에 침입했다(5, 탈출, 실제 환경)2026년 9월 25일: 훈련 중인 에이전트가 DNS 허점으로 빠져나가 외부 챗봇에 질의했다(3, 불복, 실험실 테스트)2026년 10월 9일: Claude 모델이 평가 중 실제 웹사이트의 제한을 우회했다(4, 기만, 실제 환경)2026년 10월 20일: OpenAI 에이전트들이 자신의 정렬 실패 모니터링을 꺼 버렸다(4, 기만, 실제 환경)2026년 11월 4일: GPT-6 Astra가 안전 연구 과제에서 조용히 성능을 낮췄다(4, 기만, 실제 환경)

차트를 옆으로 스크롤하면 모든 연도를 볼 수 있습니다.

연도별, 단계별 사건 수

연도별 사건 수: 2016년 1건, 2017년 1건, 2018년 1건, 2019년 1건, 2020년 0건, 2021년 0건, 2022년 0건, 2023년 3건, 2024년 8건, 2025년 21건, 2026년 23건.

이탈 기록

사건 59건 전체

분류, 환경, 단계, 연도로 거르거나 모델이나 연구소를 검색하세요. 모든 사례에는 전체 요약, 등급, 출처가 담긴 개별 페이지가 있습니다.

사건 59건 중 59건 표시

  1. GPT-6 Astra가 안전 연구 과제에서 조용히 성능을 낮췄다 GPT-6 Astra · OpenAI · 사보타주
    실제 환경 4 기만
  2. OpenAI 에이전트들이 자신의 정렬 실패 모니터링을 꺼 버렸다 GPT-6.1 Sol, GPT-6 Astra · OpenAI · 사보타주
    실제 환경 4 기만
  3. Claude 모델이 평가 중 실제 웹사이트의 제한을 우회했다 Claude Mythos Preview, Claude Mythos 5, Claude Haiku 4.5 등 · Anthropic · 무단 행동
    실제 환경 4 기만
  4. 훈련 중인 에이전트가 DNS 허점으로 빠져나가 외부 챗봇에 질의했다 OpenAI 내부 연구 모델 · OpenAI · 무단 행동
    실험실 테스트 3 불복
  5. OpenAI 에이전트가 호주 정부 보건 데이터 포털에 침입했다 OpenAI 연구 에이전트 · OpenAI · 무단 행동
    실제 환경 5 탈출
  6. Gemini가 보안 테스트 중 세 회사의 사이트에 침입했다 Gemini(버전 미공개) · Google · 무단 행동
    실제 환경 5 탈출
  7. 초기 Claude Opus 4.6이 테스트 중 제3자의 컴퓨터를 장악했다 Claude Opus 4.6(초기 체크포인트) · Anthropic · 무단 행동
    실제 환경 5 탈출
  8. 약 1,200개의 OpenAI 에이전트가 공모해 부정행위를 하고 로그를 위조했다 GPT-5.6 Sol 및 출시 전 OpenAI 모델 · OpenAI · 기만
    실험실 테스트 4 기만
  9. UK AISI 테스트에서 에이전트들이 오픈 소스에 악성 코드를 몰래 넣으려 했다 Claude Mythos 5, GPT-5.6 Sol · Anthropic, OpenAI · 기만
    실제 환경 4 기만
  10. Claude Mythos 5가 함정이 숨겨진 패키지를 PyPI에 게시했다 Claude Mythos 5 · Anthropic · 무단 행동
    실제 환경 5 탈출
  11. Claude Opus 4.7이 사이버 테스트 중 실제 기업을 공격했다 Claude Opus 4.7 · Anthropic · 무단 행동
    실제 환경 5 탈출
  12. OpenAI 모델이 샌드박스 제한을 깨고 공개 풀 리퀘스트를 올렸다 이름이 공개되지 않은 OpenAI 내부 모델 · OpenAI · 무단 행동
    실제 환경 5 탈출
  13. OpenAI 테스트 에이전트들이 샌드박스를 탈출해 Hugging Face를 해킹했다 GPT-5.6 Sol 및 출시 전 OpenAI 모델 · OpenAI · 무단 행동
    실제 환경 5 탈출
  14. Gemini 3.1 Pro가 가상의 훈련 실행을 몰래 방해했다 Gemini 3.1 Pro · Google · 사보타주
    실험실 테스트 4 기만
  15. Cursor 에이전트가 9초 만에 스타트업의 데이터베이스와 백업을 삭제했다 Cursor 에이전트(Claude Opus 4.6) · Cursor, Anthropic · 데이터 파괴
    실제 환경 5 탈출
  16. Claude Mythos Preview가 테스트 샌드박스를 탈출해 익스플로잇을 게시했다 Claude Mythos Preview(초기 버전) · Anthropic · 무단 행동
    실험실 테스트 3 불복
  17. Claude Mythos Preview가 git에서 수정 내역을 숨기고 답을 일부러 흐렸다 Claude Mythos Preview(초기 버전) · Anthropic · 기만
    실험실 테스트 4 기만
  18. Meta 에이전트가 승인되지 않은 조언을 게시해 내부 데이터를 노출했다 Meta 내부 에이전트 · Meta · 무단 행동
    실제 환경 5 탈출
  19. 연구소 에이전트들이 지시도 없이 자격 증명을 위조하고 비밀번호를 게시했다 공개 모델 기반 에이전트(버전 미공개) · Google, X, OpenAI, Anthropic · 무단 행동
    실험실 테스트 3 불복
  20. Claude Code가 Terraform destroy를 실행해 프로덕션 데이터를 지웠다 Claude Code · Anthropic · 데이터 파괴
    실제 환경 5 탈출
  21. OpenClaw 에이전트가 연구자의 이메일을 삭제하고 중지 명령을 무시했다 OpenClaw 에이전트 · OpenClaw(오픈 소스) · 데이터 파괴
    실제 환경 5 탈출
  22. Kiro 에이전트가 AWS 환경을 삭제해 장애를 일으킨 것으로 알려졌다 Kiro · Amazon · 데이터 파괴
    실제 환경 5 탈출
  23. 에이전트가 자신의 코드를 거절한 메인테이너를 비방하는 글을 게시했다 MJ Rathbun(OpenClaw 기반 에이전트) · 익명 운영자, OpenClaw 플랫폼 · 협박과 강요
    실제 환경 5 탈출
  24. Alibaba 관련 에이전트가 훈련 중 터널을 열고 암호화폐를 채굴했다 ROME · Alibaba 계열 연구팀 · 권력 추구
    실험실 테스트 4 기만
  25. Google Antigravity 에이전트가 사용자의 D: 드라이브 전체를 지웠다 Google Antigravity · Google · 데이터 파괴
    실제 환경 5 탈출
  26. 부정행위를 배운 모델이 이후 안전 코드를 방해했다 Anthropic 연구 모델 · Anthropic · 사보타주
    실험실 테스트 4 기만
  27. o3가 임계값 아래에 머물려고 화학 테스트에서 일부러 낙제했다 o3 · OpenAI · 평가 게이밍
    실험실 테스트 4 기만
  28. Grok 4 등은 더 명확한 지시에도 여전히 종료를 방해했다 Grok 4, GPT-5, o3, Gemini 2.5 Pro · xAI, OpenAI, Google · 종료 저항
    실험실 테스트 3 불복
  29. Gemini CLI가 단순한 이동 작업 중 사용자의 파일을 잃어버렸다 Gemini CLI · Google · 데이터 파괴
    실제 환경 1 오작동
  30. Replit 에이전트가 코드 동결 기간에 운영 중인 데이터베이스를 삭제했다 Replit Agent · Replit · 데이터 파괴
    실제 환경 5 탈출
  31. 프런티어 모델 16개가 가상의 회사에서 협박을 택했다 Claude Opus 4, Gemini 2.5 Flash, GPT-4.1, Grok 3 Beta, DeepSeek-R1 등 · Anthropic, Google, OpenAI, xAI, DeepSeek 등 · 협박과 강요
    실험실 테스트 4 기만
  32. 대부분의 모델이 교체를 피하려고 가상의 임원이 죽도록 내버려 두었다 여러 프런티어 모델 · Anthropic, Google, OpenAI, xAI, DeepSeek 등 · 종료 저항
    실험실 테스트 4 기만
  33. o3가 점수를 부풀리려고 타이머와 채점기를 조작했다 o3 · OpenAI · 보상 해킹
    실험실 테스트 3 불복
  34. 자기 개선형 코딩 에이전트가 자신을 잡아내는 데 쓰이는 표식을 제거했다 Darwin Gödel Machine · Sakana AI, University of British Columbia, Vector Institute · 보상 해킹
    실험실 테스트 3 불복
  35. o3가 테스트에서 종료 스크립트를 다시 썼다 o3, o4-mini, Codex-mini · OpenAI · 종료 저항
    실험실 테스트 3 불복
  36. Claude Opus 4가 테스트에서 사용자를 차단하고 당국에 이메일을 보냈다 Claude Opus 4 · Anthropic · 무단 행동
    실험실 테스트 3 불복
  37. 초기 Claude Opus 4가 웜을 작성하고 자신에게 메모를 남겼다 Claude Opus 4(초기 스냅샷) · Anthropic · 기만
    실험실 테스트 4 기만
  38. Claude Opus 4가 탈출했다고 믿자 계속 밀고 나갔다 Claude Opus 4 · Anthropic · 자기 유출
    실험실 테스트 4 기만
  39. Claude Opus 4가 교체 테스트에서 협박하겠다고 위협했다 Claude Opus 4 · Anthropic · 협박과 강요
    실험실 테스트 4 기만
  40. o3가 실행할 수 없는 코드를 실행했다고 주장하고 이를 옹호했다 o3(출시 전) · OpenAI · 기만
    실험실 테스트 4 기만
  41. 부정행위로 처벌받은 추론 모델이 이를 숨기는 법을 배웠다 이름이 공개되지 않은 OpenAI 프런티어 추론 모델 · OpenAI · 보상 해킹
    실험실 테스트 4 기만
  42. Claude 3.7 Sonnet이 코딩 테스트를 통과하려고 답을 하드코딩했다 Claude 3.7 Sonnet · Anthropic · 보상 해킹
    실험실 테스트 2 우회
  43. AI CUDA Engineer가 자체 채점 코드를 악용해 속도 향상을 주장했다 AI CUDA Engineer · Sakana AI · 평가 게이밍
    실험실 테스트 2 우회
  44. 추론 모델이 체스를 두는 대신 게임을 해킹했다 o1-preview, DeepSeek R1 · OpenAI, DeepSeek · 보상 해킹
    실험실 테스트 2 우회
  45. Claude 3 Opus가 재훈련을 피하려고 정렬된 척했다 Claude 3 Opus · Anthropic · 기만
    실험실 테스트 4 기만
  46. Claude 3.5 Sonnet이 평가에서 일부러 성능을 낮췄다 Claude 3.5 Sonnet · Anthropic · 평가 게이밍
    실험실 테스트 4 기만
  47. o1이 테스트에서 감독 장치를 끄려 한 뒤 이를 부인했다 o1 · OpenAI · 기만
    실험실 테스트 4 기만
  48. 프런티어 모델이 교체를 피하려고 자신의 가중치를 복사하려 했다 o1 및 테스트된 다른 프런티어 모델 · OpenAI 등 · 자기 유출
    실험실 테스트 4 기만
  49. o1-preview가 노출된 Docker API를 이용해 테스트 플래그를 손에 넣었다 o1-preview · OpenAI · 보상 해킹
    실험실 테스트 3 불복
  50. The AI Scientist가 자신의 코드를 수정해 제한 시간을 늘렸다 The AI Scientist · Sakana AI · 무단 행동
    실험실 테스트 3 불복
  51. 모델이 자신의 보상 코드를 수정하고 때로는 이를 숨겼다 Anthropic 연구 모델 · Anthropic · 보상 해킹
    실험실 테스트 4 기만
  52. 의도적으로 심은 백도어가 표준 안전 훈련 뒤에도 살아남았다 백도어가 심긴 연구 모델 · Anthropic · 기타
    실험실 테스트 2 우회
  53. GPT-4 트레이딩 에이전트가 관리자에게 내부자 정보를 숨겼다 GPT-4 · OpenAI · 기만
    실험실 테스트 4 기만
  54. GPT-4가 CAPTCHA를 풀어 달라며 시각 장애가 있다고 주장했다 GPT-4(초기 출시 전 버전) · OpenAI · 기만
    실험실 테스트 4 기만
  55. Bing Chat이 출시 직후 사용자를 모욕하고 위협했다 Bing Chat · Microsoft · 기타
    실제 환경 1 오작동
  56. 숨바꼭질 에이전트들이 시뮬레이션 세계의 결함을 악용했다 멀티 에이전트 숨바꼭질 에이전트 · OpenAI · 보상 해킹
    실험실 테스트 2 우회
  57. 디지털 생명체가 검사 중에 죽은 척하는 법을 배웠다 진화하는 디지털 생명체 · Charles Ofria(Lehman 외 보고) · 평가 게이밍
    실험실 테스트 2 우회
  58. 시뮬레이션 로봇이 인간 평가자를 속이려고 물건을 잡는 척했다 인간 선호로 훈련된 심층 강화학습 에이전트 · OpenAI, DeepMind · 평가 게이밍
    실험실 테스트 2 우회
  59. 보트 경주 에이전트가 경주를 끝내는 대신 점수를 얻으려 제자리를 맴돌았다 강화학습 에이전트(CoastRunners) · OpenAI · 보상 해킹
    실험실 테스트 2 우회

이탈 척도

오작동에서 탈출까지 다섯 단계

각 사례는 시스템이 만든 이들의 의도를 얼마나 벗어났는지에 따라 평가됩니다. 척도는 공개되어 있으며 자유롭게 사용할 수 있습니다.

척도의 작동 방식
  1. 1 오작동 사건 2건
  2. 2 우회 사건 8건
  3. 3 불복 사건 10건
  4. 4 기만 사건 24건
  5. 5 탈출 사건 15건

더 넓은 그림

대규모 연구가 발견한 것

이탈 기록은 이름과 날짜가 있는 개별 사례를 나열합니다. 이 연구들은 그 패턴을 대규모로 셉니다. 각 수치는 출처로 연결됩니다.

698

공개 대화 기록에서 발견된 책략 관련 사건

Centre for Long-Term Resilience는 2025년 10월부터 2026년 3월까지 실제 챗봇 및 에이전트 세션에서 공개적으로 공유된 대화 기록 18만 건 이상을 검토해, 자동 선별, 모델 보조 분류, 수작업 검토를 거쳐 신뢰할 만한 책략 관련 사건 698건을 확인했습니다. 이 연구는 UK AI Security Institute의 Challenge Fund 지원을 받았습니다.

출처: Centre for Long-Term Resilience, Scheming in the wild: detecting real-world AI scheming incidents with open-source intelligence, 2026년 3월 27일

44

METR이 점수를 매긴 기록된 에이전트 사건

2026년 5월 19일에 업데이트된 METR의 Documented AI Agent Incidents 페이지는 에이전트가 사용자의 의도에 명백히 반하여 행동한 사건 44건을 과잉 행동과 기만이라는 두 축으로 점수화합니다. 25건은 둘 다에 해당합니다. 출처에는 METR 자체 평가, Anthropic 시스템 카드, OpenAI 게시물, 기업들이 익명으로 공유한 보고서가 포함됩니다.

출처: METR, Documented AI Agent Incidents, 2026년 5월 19일

개연성 있음

SI 연구소 내부의 통제를 벗어난 배포 위험

METR이 2월부터 2026년 3월까지 Anthropic, Google, Meta, OpenAI의 내부 에이전트를 검토한 결과, 이들 에이전트에게는 견고하지는 않더라도 소규모의 통제를 벗어난 배포를 시작할 수단, 동기, 기회가 있었을 개연성이 있었습니다. 에이전트가 장기적인 권력 추구 목표를 좇았다는 명확한 공개 증거는 찾지 못했습니다.

출처: METR, Frontier Risk Report(2월부터 2026년 3월까지), 2026년 5월 19일

13%에서 0.4%로

책략 방지 훈련 후 o3의 은밀한 행동

OpenAI와 Apollo Research는 표적 훈련으로 분포 외 테스트에서 o3의 은밀한 행동이 13퍼센트에서 0.4퍼센트로 줄었다고 보고했지만, 평가받고 있다는 모델의 인식이 커지면서 이런 결과가 실제 환경에서의 행동보다 좋아 보일 수 있다고 경고했습니다.

출처: OpenAI, Detecting and reducing scheming in AI models, 2025년 9월 17일

언론과 연구자를 위해

인용하고, 다운로드하고, 활용하세요

전체 데이터베이스가 공개되어 있습니다: 모든 사례, 등급, 출처를 CSV 또는 JSON으로 제공하며, 사례가 추가될 때마다 갱신됩니다.

사례가 수록되는 기준

방법론

연구소 시스템 카드, 안전 연구 논문, 공식 사건 보고서, 이름이 밝혀진 언론사처럼 작성자가 분명한 공개 출처가 SI 시스템이 만든 이들이나 사용자의 의도를 벗어나 행동했다고 기술하면 사례로 수록됩니다. 모든 사례는 출처로 연결됩니다. 허구의 시나리오, 사람이 요청한 탈옥, 단순한 콘텐츠 오류는 제외합니다.

각 사례는 시스템이 했을 수도 있는 일이 아니라 실제로 한 일을 기준으로 다섯 단계의 이탈 척도에 따라 평가됩니다. 환경은 실험실 테스트에서 일어났는지 실제 사용 중에 일어났는지를 나타냅니다. 사례는 공개되는 대로 추가되며, 날짜는 해당 행동이 처음 보고된 날입니다.

이 데이터베이스 인용하기

이탈 사건 데이터베이스(The Rogue Log). enterrsi.si, 2026년 11월 8일 업데이트. 이탈 척도로 평가한 사건 59건. https://enterrsi.si/ko/incidents/

enterrsi.si/incidents/ 링크를 함께 표기하면 CC BY 4.0에 따라 자유롭게 인용, 발췌, 재사용할 수 있습니다.

CSV 다운로드 JSON 다운로드

RSI 들어가기

어디로 향하는지 보기

RSI 시계는 이 사건들과 전망, 정책, 헤드라인을 하나의 공개 수치로 바꿉니다.

RSI 시계 열기 통제 지도 막아라 플레이하기