쉽게 말하면
가장 뛰어난 모델은 가장 많은 컴퓨팅으로 훈련되기 때문에, 입법자들은 훈련 실행의 총 연산 횟수를 안전 의무의 간단한 발동 기준으로 사용합니다. EU AI Act는 10^25 FLOP를 넘는 연산으로 훈련된 범용 모델에 시스템적 위험이 있다고 추정하며, 이에 따라 모델 평가, 심각한 사건 보고, 모델 보안 의무가 생깁니다. 캘리포니아의 SB 53, 뉴욕의 RAISE Act, 일리노이의 SB 315는 10^26회의 연산을 기준으로 프런티어 개발사를 정의하며, 한국의 AI Basic Act(인공지능 기본법)는 시행령으로 임계값을 정하는데, 10^26 FLOP로 보도되었습니다.
임계값은 측정하기 쉽고, 가장 큰 훈련 실행이라면 피하기도 어렵다는 것이 장점입니다. 하지만 불완전하기도 합니다. 더 나은 알고리즘은 해마다 더 적은 컴퓨팅으로 같은 능력에 도달하므로, 고정된 임계값은 시간이 지날수록 더 적은 수의 위험한 모델만 포괄하게 되고, 실제 능력에 대한 테스트가 함께 필요합니다. 그래서 여러 법은 규제 당국이 그 수치를 검토하거나 갱신할 수 있게 합니다.
통제를 벗어난 SI와 관련해 중요한 이유
임계값은 어떤 모델이 애초에 테스트와 감시를 받을지를 결정합니다. 통제를 벗어날 수 있으면서도 효율적으로 훈련되어 기준선 아래에 머무는 모델은 그런 모델을 잡아내기 위한 규칙을 빠져나갈 것입니다.
이 용어를 쓰는 법률과 규칙
- 시행 중 EU AI Act (GPAI) 유럽연합
- 시행 중 SB 53 캘리포니아
- 통과, 시행 전 RAISE Act 뉴욕
- 통과, 시행 전 SB 315 일리노이
- 시행 중 AI Basic Act 한국
출처
- Guidelines for providers of general-purpose AI models European Commission ·
- SB 53: Artificial intelligence models: large developers CalMatters Digital Democracy