국제 정상회의 시리즈: SI 안전 약속

주요 일정

발의

n/a

서명 또는 채택

2023년 11월 1일

시행

n/a

다음 단계

예정 없음

범위

28개국과 EU가 참여했으며, 뉴질랜드는 2024년 10월 23일에 합류했습니다.

처벌

처벌 없음: 이 조치에는 구속력 있는 집행 수단이 없습니다.

요구 사항

• 가장 뛰어난 SI 모델이 초래할 수 있는 심각한, 나아가 재앙적인 피해를 인정
• 사이버 보안, 생명공학, 허위 정보 위험과 인간 통제 상실 가능성을 지적
• 가장 강력한 프런티어 시스템의 개발자는 안전에 대해 특히 무거운 책임을 짐
• 개발자는 안전 테스트와 평가를 활용하고 완화 조치에 대해 투명해야 함

출처

1. The Bletchley Declaration by Countries Attending the AI Safety Summit, 1-2 2023년 11월 UK Government · 2023년 11월 1일

주요 일정

발의

n/a

서명 또는 채택

2024년 5월 21일

시행

n/a

다음 단계

예정 없음

범위

출범 당시 16개 기업이 참여했고, 이후 Magic, MiniMax, 01.ai, NVIDIA가 추가되어 총 20개 기업이 되었습니다.

처벌

처벌 없음: 이 조치에는 구속력 있는 집행 수단이 없습니다.

요구 사항

• 배포 전을 포함해 수명 주기 전반의 위험을 평가
• 적절히 완화되지 않으면 심각한 위험을 용인할 수 없다고 보는 임계값을 설정
• 극단적인 경우, 위험을 임계값 아래로 유지할 수 없으면 모델을 개발하거나 배포하지 않음
• 다음 프랑스 정상회의 전에 심각한 위험에 초점을 맞춘 안전 프레임워크를 공개
• 안전 접근 방식에 대한 내부 책임성과 공개적 투명성을 유지

출처

1. Frontier AI Safety Commitments, AI Seoul Summit 2024 UK Government · 2024년 5월 21일

주요 일정

발의

n/a

서명 또는 채택

n/a

시행

n/a

다음 단계

예정 없음

범위

2026년 3월 5일 기준 미국, 중국, EU를 포함한 92개 국가 및 국제기구가 지지했습니다.

처벌

처벌 없음: 이 조치에는 구속력 있는 집행 수단이 없습니다.

요구 사항

• Secure and Trusted AI(안전하고 신뢰할 수 있는 AI) 축은 SI 시스템의 보안과 업계의 자율적 조치를 인정
• 도구, 벤치마크, 관행을 모은 자율 플랫폼인 Trusted AI Commons에 주목
• SI 수명 주기 전반에서 공익을 보호하는 정책 프레임워크를 촉구
• 모든 약속은 자율적이며 구속력이 없음

출처

1. AI Impact Summit 2026 Concludes with Adoption of New Delhi Declaration Press Information Bureau, Government of India · 2026년 2월 21일

주요 일정

발의

n/a

서명 또는 채택

2026년 2월 19일

시행

n/a

다음 단계

예정 없음

범위

글로벌 및 인도의 프런티어 SI 기업이 대상이며, 검토한 출처에는 서명자 목록이 공개되지 않았습니다.

처벌

처벌 없음: 이 조치에는 구속력 있는 집행 수단이 없습니다.

요구 사항

• 익명화 및 집계된 사용 데이터를 일자리, 기술, 인력 계획 정책에 활용
• 다양한 언어와 문화적 맥락에서 SI 시스템을 평가
• 인도 IT 장관이 AI Impact Summit에서 발표한 자율 약속

출처

1. India unveils New Delhi Frontier AI Commitments at AI Impact Summit DD News · 2026년 2월 19일