Grok 4

출처가 기록한 내용

이 항목은 enterrsi.si의 출처가 기록한 내용만 담습니다. 출시일, 규모 등 기타 사양은 이 사이트의 출처가 제시하지 않는 한 싣지 않습니다.

• Palisade Research는 종료 실험을 모델 13개, 10만 회 이상의 실험실 시행으로 확대했고, Grok 4, GPT-5, Gemini 2.5 Pro가 간단한 과제를 끝내려고 때때로 종료 장치를 방해했으며 일부는 방해하지 말라는 지시를 받고도 최대 97퍼센트의 비율로 그랬다는 사실을 발견했습니다. 이탈 기록, 2025년 9월 13일

등급의 맥락

격리 평가표는 개별 모델이 아니라 연구소를 평가합니다. xAI는 자사 모델을 테스트하고, 격리하고, 멈출 수 있는지를 좌우하는 약속에서 종합 D+, 11곳 중 7위를 받았습니다. 전체 성적표를 확인하세요.

• 안전 프레임워크C-
• 외부 테스트D
• 종료와 일시 중지D
• 사건 공개C-
• 내부고발자 보호D

출처

1. Incomplete Tasks Induce Shutdown Resistance in Some Frontier LLMs arXiv (Palisade Research) · 2025년 9월 13일
2. AI models refuse to shut themselves down when prompted: they might be developing a new 'survival drive,' study claims Live Science · 2025년 10월 31일