Limiar de computação

Em linguagem simples

Como os modelos mais capazes são treinados com mais computação, os legisladores usam o número total de operações de um treinamento como gatilho simples para obrigações de segurança. O EU AI Act presume que um modelo de propósito geral treinado com mais de 10^25 FLOP tem risco sistêmico, o que traz obrigações de avaliar o modelo, comunicar incidentes graves e protegê-lo. O SB 53 da Califórnia, o RAISE Act de Nova York e o SB 315 de Illinois usam 10^26 operações para definir desenvolvedores de fronteira, e o AI Basic Act da Coreia do Sul define um limiar por decreto, informado como 10^26 FLOP.

Os limiares são fáceis de medir e difíceis de driblar nos maiores treinamentos, e é aí que está seu atrativo. Mas também são imperfeitos. Algoritmos melhores alcançam a mesma capacidade com menos computação a cada ano, então um limiar fixo abrange cada vez menos modelos perigosos com o tempo, e testes de capacidade real são necessários junto com ele. Por isso, várias leis permitem que os reguladores revisem ou atualizem o número.

Por que isso importa para a SI rebelde

Os limiares decidem quais modelos chegam a ser testados e vigiados. Um modelo capaz de se rebelar, mas treinado de forma eficiente o bastante para ficar abaixo da linha, escaparia das regras feitas para detectá-lo.

Leis e regras que o usam

• Em vigor EU AI Act (GPAI) União Europeia
• Em vigor SB 53 Califórnia
• Aprovada, ainda não em vigor RAISE Act Nova York
• Aprovada, ainda não em vigor SB 315 Illinois
• Em vigor AI Basic Act Coreia do Sul

Fontes

1. Guidelines for providers of general-purpose AI models European Commission · 18 jul. 2025
2. SB 53: Artificial intelligence models: large developers CalMatters Digital Democracy