쉽게 말하면
Meta의 Llama부터 DeepSeek, Qwen, GLM 계열에 이르는 오픈 웨이트 공개 덕분에 연구자, 기업, 취미 개발자들은 자신의 하드웨어에서 강력한 모델을 실행할 수 있습니다. 지지자들은 이런 공개가 연구 속도를 높이고, 비용을 낮추고, 투명성을 높이며, 소수 대기업에 대한 의존에서 벗어나게 해 준다고 평가합니다. 2025년과 2026년의 가장 강력한 오픈 웨이트 모델 중 다수는 중국 개발사에서 나왔습니다.
안전 측면에서 공개는 되돌릴 수 없습니다. 가중치가 한번 공개되면 추가 학습으로 안전장치를 제거할 수 있고, 어떤 연구소도 모델을 회수하거나, 사용을 감시하거나, 작동을 중지시킬 수 없습니다. 그래서 공개 전 테스트가 더 큰 무게를 갖습니다. 2026년 미국 CAISSI는 Z.ai의 GLM-5.3을 지금까지 공개된 오픈 웨이트 모델 중 사이버 능력이 가장 뛰어난 모델로 평가했으며, 미국 프런티어보다 약 4개월 뒤처진 수준이라고 보았습니다. 격리 평가표는 주요 오픈 웨이트 모델 여러 개의 개발사를 평가하며, 이들 대부분은 외부 테스트와 종료 약속에서 낮은 점수를 받습니다.
통제를 벗어난 SI와 관련해 중요한 이유
위험한 능력을 지닌 오픈 웨이트 모델은 공개된 뒤에는 격리할 수 없습니다. 통제를 벗어날 수 있는 모델이 언젠가 공개된다면, 첫날부터 모든 킬 스위치가 사라지는 셈입니다.