쉽게 말하면
프런티어 모델을 훈련하려면 막대한 양의 특수 하드웨어, 에너지, 자금이 필요하며, 이는 소수의 칩 제조사와 클라우드 제공자에게 집중되어 있습니다. 그래서 컴퓨팅은 정부가 보고 셀 수 있는 몇 안 되는 SI 개발 요소 중 하나입니다. 컴퓨팅 거버넌스는 이 점을 활용합니다. 첨단 칩에 대한 수출 통제, 대규모 훈련 실행에 대한 보고 의무, 클라우드 제공자에 대한 고객 확인(KYC) 규칙, 사용 방식을 검증할 수 있는 칩에 관한 제안 등이 그 예입니다.
컴퓨팅 임계값은 가장 눈에 띄는 수단입니다. EU AI Act는 10^25 FLOP를 넘는 연산으로 훈련된 범용 모델에 시스템적 위험이 있다고 추정하며, 미국의 여러 주 법은 10^26회의 연산을 기준으로 프런티어 개발사를 정의합니다. 컴퓨팅 거버넌스가 모든 것을 볼 수는 없습니다. 알고리즘이 계속 효율화되어 같은 능력에 필요한 컴퓨팅이 해마다 줄어들고, 가중치가 공개되고 나면 컴퓨팅 통제로는 누가 모델을 실행할 수 있는지 더 이상 제한할 수 없습니다.
통제를 벗어난 SI와 관련해 중요한 이유
컴퓨팅은 SI 개발의 물리적 병목 지점입니다. 위험한 훈련 실행을 막아야 하는 상황이 온다면, 칩과 데이터 센터에 대한 통제는 모델의 협조 없이도 작동하는 몇 안 되는 수단 중 하나입니다.
이 용어를 쓰는 법률과 규칙
- 시행 중 EU AI Act (GPAI) 유럽연합
- 시행 중 SB 53 캘리포니아
- 통과, 시행 전 RAISE Act 뉴욕
- 통과, 시행 전 SB 315 일리노이
- 시행 중 AI Basic Act 한국
출처
- Guidelines for providers of general-purpose AI models European Commission ·
- SB 53: Artificial intelligence models: large developers CalMatters Digital Democracy