쉽게 말하면
일시 중지에는 두 가지 형태가 있습니다. 연구소의 약속은 안전 프레임워크에 명시됩니다. 모델이 연구소가 아직 안전하게 관리할 수 없는 능력 수준에 도달하면, 완화 조치가 준비될 때까지 개발이나 배포를 멈춘다는 것입니다. 공개적인 일시 중지는 업계 전체에 멈출 것을 촉구하는 요구입니다. GPT-4보다 강력한 시스템의 학습을 6개월간 중단하자고 요청한 2023년 공개서한이나, 안전하게 개발할 수 있고 대중의 강한 지지를 얻을 때까지 초지능 개발을 금지하자고 촉구한 2025년 성명이 그 예입니다.
연구소의 일시 중지 약속은 여러 사례에서 약해졌습니다. Anthropic은 이전의 일시 중지 서약을 경쟁사의 행보에 따라 달라지는 약속으로 대체했으며, Meta는 Critical 기준에서의 대응을 중단에서 완화 조치를 적용한 개발로 바꾸었습니다. Microsoft의 프레임워크는 위험을 충분히 완화할 수 없는 모델의 개발과 배포를 일시 중지하겠다고 약속합니다. 격리 평가표의 종료 및 일시 중지 등급은 각 약속이 얼마나 확고한지를 평가합니다.
통제를 벗어난 SI와 관련해 중요한 이유
일시 중지는 계획된 형태의 킬 스위치입니다. 시스템이 잘못 행동한 뒤가 아니라 만들어지기 전에 멈추는 것입니다. 그 신뢰성이 연구소가 제때 멈출지를 좌우합니다.
이 용어를 쓰는 법률과 규칙
- 정체 또는 철회 SB 24-205 콜로라도
- 자율 또는 지침 FLI Statement 국제 시민사회
출처
- The pause letter (2023) Future of Life Institute
- The Statement on Superintelligence (2025) Statement on Superintelligence
- Colorado Delays AI Act to June 2026; Businesses Get Breathing Room PYMNTS ·
- Statement on Superintelligence Future of Life Institute