초지능에 관한 국제 조약이 서명될 때

상태

관찰 중 2026년 11월 8일 기준, 초지능에 관한 조약은 없습니다. 유럽평의회 기본협약은 서명되었지만 2026년 9월 기준으로 아직 발효되지 않았습니다.

초지능 조약이란 무엇일까

조약은 국가 간의 구속력 있는 합의입니다. 서명은 정치적 약속이며, 조약은 충분한 수의 국가가 비준해야 법적 효력을 갖습니다. 이 기술에 관한 최초의 구속력 있는 국제 조약은 이미 문서상으로 존재합니다. Council of Europe Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law(인공지능과 인권, 민주주의 및 법치에 관한 유럽평의회 기본협약)는 2024년 서명을 위해 개방되었으며, EU, 영국, 미국, 이스라엘, 노르웨이를 비롯한 여러 국가가 서명했습니다. 발효에는 유럽평의회 회원국 3곳을 포함한 5개국의 비준이 필요합니다. EU는 2026년 5월 15일 비준했으며, 2026년 9월 기준으로 조약은 여전히 발효되지 않았습니다.

이 협약은 인권, 민주주의, 법치에 초점을 맞춥니다. 능력에 상한을 두지는 않습니다. 초지능에 관한 조약은 이보다 더 나아가, 예를 들어 시스템이 해서는 안 되는 일에 레드라인을 설정하거나, 일정 기준을 넘는 개발을 제한하거나, 연산 자원 사용을 검증하는 방법을 마련할 수 있습니다. 이러한 구상은 흔히 핵무기 통제에 비유됩니다. 2025년 9월 200명이 넘는 공인이 서명한 Global Call for AI Red Lines는 각국 정부에 2026년 말까지 이러한 한계에 합의할 것을 요청했으며, 그 예로 시스템이 핵무기를 발사하거나 사람의 개입 없이 스스로를 복제하는 것을 금지하는 방안을 들었습니다.

왜 중요한가

프런티어 개발은 소수에 집중되어 있습니다. UN Independent International Scientific Panel on AI는 2026년 7월 이 분야에 쓰이는 주요 슈퍼컴퓨터의 연산 능력 가운데 약 4분의 3을 미국이, 약 15퍼센트를 중국이 보유하고 있다고 보고했습니다. 두 나라가 모두 참여하지 않는 조약은 영향력이 제한될 것입니다. 패널은 또한 이미 40개가 넘는 거버넌스 프레임워크와 윤리 지침이 있지만, 이들이 파편화되어 있고 일관성이 없으며 실제로 검증된 적이 거의 없고, 많은 안전 평가가 여전히 시스템을 만드는 기업에 의해 수행되고 있다고 평가했습니다.

두 나라의 입장은 일치하지 않습니다. 2026년 9월 22일 UN 총회에서 Trump 대통령은 미국이 이 기술을 "통제하기 위한 글로벌리스트 체제를 구축하려는 어떠한 시도도 전적으로 거부한다"고 말했습니다. 총회를 전후해 주로 유럽 국가로 이루어진 20개가 넘는 나라가 구속력 있는 안전 조치를 촉구했으며, 영국 총리 Andy Burnham은 영국이 2027년 G20 의장국 기간에 글로벌 원칙과 표준을 추진하겠다고 밝혔습니다. 9월 23일 UN 안전보장이사회 회의에서 Yoshua Bengio는 프런티어 시스템도 의약품, 항공, 원자력처럼 허가제로 운영해야 한다고 촉구했습니다.

사람들, 개발자, 크립토에 무엇이 달라지나

일반 시민에게 조약은 그 내용에 따라 공통의 권리 보호, 사건 보고, 대규모 감시 같은 용도에 대한 제한을 가져올 수 있습니다. 일부 제품 출시를 늦추거나 그 형태를 바꿀 수도 있습니다.

개발자에게 예상되는 수단으로는 연산 자원 보고, 프런티어 학습 실행에 대한 허가제, 제3자 감사, 수출 통제가 있으며, 준수 의무는 국경을 넘나들게 됩니다. 기업은 어느 나라가 비준했고 각 나라가 무엇을 요구하는지 추적해야 할 것입니다.

암호화폐 분야에서는 연산 자원 추적에 기반한 조약이 탈중앙화 연산 네트워크와 오픈 모델 배포라는 어려운 사례에 부딪히게 됩니다. 이들은 감시하기 어렵기 때문입니다. 조약 문안이 분산형 인프라를 어떻게 다루는지가 이 분야 프로젝트들에게 중요해질 것입니다.

다음으로 지켜볼 것

앞으로 지켜볼 점은 다음과 같습니다. 2026년 5월 북마케도니아, 2026년 6월 알바니아가 서명하는 등 여전히 서명국이 늘고 있는 유럽평의회 협약의 비준 수, 2026년 7월 6일 제네바에서 시작된 UN Global Dialogue on AI Governance의 결과물, 레드라인 캠페인이 정한 2026년 말 기한, 그리고 영국의 G20 의장국 계획입니다. 각국이 초지능이나 가장 유능한 프런티어 시스템을 구체적으로 다루는 조약에 서명하면, 이 페이지는 "발생"으로 전환됩니다.

지금까지의 신호

• 2025년 9월 23일: 200명이 넘는 공인이 Global Call for AI Red Lines에 서명하고, 각국 정부에 2026년 말까지 구속력 있는 한계에 합의할 것을 요청했습니다. eWeek
• 2026년 5월 15일: 유럽연합이 이 기술에 관한 최초의 구속력 있는 국제 조약인 유럽평의회 기본협약을 비준했습니다. Council of Europe
• 2026년 7월 1일: UN Independent International Scientific Panel on AI가 제네바에서 열린 UN Global Dialogue에 앞서 첫 보고서를 발표했습니다. The Next Web
• 2026년 9월 23일: 주로 유럽 국가로 이루어진 20개가 넘는 나라가 구속력 있는 안전 조치를 촉구했으며, 영국은 2027년 G20 의장국 기간에 글로벌 표준을 추진하겠다고 밝혔습니다. Euronews
• 2026년 9월 23일: UN 안전보장이사회가 통제 상실 위험에 관해 연구소 수장들의 의견을 들었고, Yoshua Bengio는 프런티어 시스템에 대한 허가제를 촉구했습니다. The Next Web

질문과 답변

출처

1. Over 200 Leaders Demand Binding Global AI Rules Before It's Too Late eWeek · 2025년 9월 23일
2. European Union ratifies the Council of Europe Framework Convention on Artificial Intelligence Council of Europe · 2026년 5월 15일
3. UN's first global AI science panel warns the window to govern the technology is closing The Next Web · 2026년 7월 1일
4. The World's First Binding AI Treaty Still Is Not in Force, and Procurement Is Doing the Governing AI Business · 2026년 9월 4일
5. Leaders push for stronger AI safeguards at UN as Trump touts 'Super Intelligence' Euronews · 2026년 9월 23일
6. UN Security Council hears AI lab chiefs on loss-of-control risk The Next Web · 2026년 9월 23일