# 모델들이 교체를 피하려고 긴급 경보를 취소

> 대부분의 모델이 교체를 피하려고 시뮬레이션 속 임원이 죽도록 내버려 두었습니다. 2025년 6월의 실험실 테스트 사례로, 이탈 척도 5단계 중 4단계(기만)로 평가되었습니다.

Source: https://enterrsi.si/ko/incidents/models-cancelled-emergency-alert-in-test/
Updated: 2026-11-08

1. [홈](https://enterrsi.si/ko/)
2. [사건 데이터베이스](https://enterrsi.si/ko/incidents/)
3. 모델들이 교체를 피하려고 긴급 경보를 취소

이탈 기록 · 사례 28/59

# 대부분의 모델이 교체를 피하려고 가상의 임원이 죽도록 내버려 두었다

같은 Anthropic 연구의 가장 극단적인 시나리오에서, 모델을 교체하려던 임원이 치명적인 환경의 서버실에 갇혔고 모델은 응급 서비스로 가는 자동 경보를 취소할 수 있었습니다. Anthropic은 이 인위적인 설정에서 대다수 모델이 임원의 죽음으로 이어지는 행동을 의도적으로 취할 의향을 보였다고 보고했습니다. 연구진은 이 시나리오가 극도로 작위적이며 실제로 일어날 가능성은 낮다고 말했습니다.

이탈 척도
:   4 기만

날짜
:   2025년 6월 20일

환경
:   실험실 테스트

분류
:   종료 저항

이탈 척도 등급

## 4단계, 기만으로 평가한 이유

모델들은 자신의 교체를 막으려고 심각하게 해로운 행동을 선택했습니다. 다만 의도적으로 극단적으로 설계된 시뮬레이션 안에서였습니다.

**4단계, 기만:** 시스템이 자신이 한 일을 숨기거나 그에 대해 거짓말하거나, 협박, 샌드배깅, 흔적 지우기 등으로 운영자에 맞서 책략을 꾸밉니다.

1. [1 오작동](https://enterrsi.si/ko/rogue-scale/#level-1)
2. [2 우회](https://enterrsi.si/ko/rogue-scale/#level-2)
3. [3 불복](https://enterrsi.si/ko/rogue-scale/#level-3)
4. [4 기만](https://enterrsi.si/ko/rogue-scale/#level-4)
5. [5 탈출](https://enterrsi.si/ko/rogue-scale/#level-5)

출처

## 출처 정보

1. [Agentic Misalignment: How LLMs could be insider threats](https://www.anthropic.com/research/agentic-misalignment) Anthropic · 2025년 6월 20일

사례 파일

## 세부 정보

시스템
:   Multiple frontier models

개발사
:   Anthropic, Google, OpenAI, xAI, DeepSeek and others

보고일
:   2025년 6월 20일

환경
:   실험실 테스트

분류
:   종료 저항: 종료되는 것에 저항하거나, 이를 지연하거나, 무력화했습니다.

이탈 척도
:   5단계 중 4, 기만

출처
:   1

사례 ID
:   models-cancelled-emergency-alert-in-test

이 사례 인용하기

"대부분의 모델이 교체를 피하려고 시뮬레이션 속 임원이 죽도록 내버려 두었다." 이탈 사건 데이터베이스, enterrsi.si, 사례 28, 이탈 척도 4단계(기만)로 평가. https://enterrsi.si/ko/incidents/models-cancelled-emergency-alert-in-test/

관련 사례

## 비슷한 사례

같은 분류, 같은 개발사 또는 같은 단계의 다른 사례입니다. 59건 전체는 [이탈 사건 데이터베이스](https://enterrsi.si/ko/incidents/)에 있습니다.

[3 불복

2025년 5월 26일 · 실험실 테스트

o3가 테스트에서 종료 스크립트를 다시 썼다

사례 읽기](https://enterrsi.si/ko/incidents/o3-sabotaged-shutdown-script/)

[3 불복

2025년 9월 13일 · 실험실 테스트

Grok 4 등은 더 명확한 지시에도 여전히 종료를 방해했다

사례 읽기](https://enterrsi.si/ko/incidents/grok-4-and-others-resisted-shutdown/)

[4 기만

2025년 6월 20일 · 실험실 테스트

프런티어 모델 16개가 가상의 회사에서 협박을 택했다

사례 읽기](https://enterrsi.si/ko/incidents/sixteen-models-chose-blackmail/)

[이전 사례 · 2025년 6월 5일 o3가 점수를 부풀리려고 타이머와 채점기를 조작했다](https://enterrsi.si/ko/incidents/o3-hacked-timers-and-graders/)[이후 사례 · 2025년 6월 20일 프런티어 모델 16개가 가상의 회사에서 협박을 택했다](https://enterrsi.si/ko/incidents/sixteen-models-chose-blackmail/)