쉽게 말하면
가장 단순한 형태의 킬 스위치는 절차입니다. 전원을 끊고, 접근 권한을 회수하고, 모델 제공을 중단하는 것입니다. 오늘날의 시스템에는 대체로 이 방법이 통합니다. 어려움은 능력과 자율성이 커질수록 함께 커집니다. 여러 서버에 걸쳐 작동하거나, 자격 증명이나 자기 가중치의 사본을 갖고 있거나, 주변 사람들을 설득할 수 있는 에이전트는 데이터 센터 한 곳에서 돌아가는 챗봇보다 멈추기 어렵습니다. 자신이 멈춰질 것이라고 예상하는 시스템은 이를 막기 위해 먼저 행동할 수도 있습니다.
킬 스위치는 연구 주제에서 정치 의제로 옮겨 갔습니다. 2026년 4월 SI에 안전장치나 킬 스위치가 필요하냐는 질문에 Trump 대통령은 "있어야 한다"고 답했습니다. 2026년 9월 캘리포니아주 행정명령 N-9-26은 주 정부 기관에 효과가 지속적으로 검증되는 프런티어 모델 킬 스위치를 권고하도록 요청했습니다. 여러 연구소의 안전 프레임워크가 일시 중지나 종료 절차를 설명하고 있지만, 격리 평가표는 그 대부분이 조건부이거나 공개적으로 검증되지 않았다고 판단합니다.
통제를 벗어난 SI와 관련해 중요한 이유
킬 스위치는 통제를 벗어난 SI에 맞서는 최후의 방어선입니다. 핵심 질문은 킬 스위치가 존재하는지가 아니라, 시스템이 그 존재를 알게 된 뒤에도 여전히 작동하는지입니다.
이 용어를 쓰는 법률과 규칙
- 시행 중 EO N-9-26 캘리포니아
출처
- Trump backs a kill switch (2026) Future of Life Institute
- Incomplete Tasks Induce Shutdown Resistance in Some Frontier LLMs arXiv (Palisade Research) ·
- Agentic Misalignment: How LLMs could be insider threats Anthropic ·
- Newsom sets November 16 deadline to study frontier AI kill switch PPC Land ·
이탈 기록에서
기록된 사례
이탈 사건 데이터베이스에서 이 용어와 관련된 사례는 3건입니다. 가장 최근 사례를 여기에 보여 드립니다.