Umbral de cómputo

En palabras sencillas

Como los modelos más capaces se entrenan con más cómputo, los legisladores usan el número total de operaciones de una ejecución de entrenamiento como un activador sencillo de las obligaciones de seguridad. El EU AI Act presume que un modelo de uso general entrenado con más de 10^25 FLOP tiene riesgo sistémico, lo que conlleva obligaciones de evaluar el modelo, notificar incidentes graves y protegerlo. La SB 53 de California, la RAISE Act de Nueva York y la SB 315 de Illinois usan 10^26 operaciones para definir a los desarrolladores de frontera, y la AI Basic Act de Corea del Sur fija un umbral por decreto, que según informes es de 10^26 FLOP.

Los umbrales son fáciles de medir y difíciles de eludir para las mayores ejecuciones, y ahí está su atractivo. También son imperfectos. Los mejores algoritmos alcanzan la misma capacidad con menos cómputo cada año, así que un umbral fijo abarca cada vez menos modelos peligrosos, y junto a él hacen falta pruebas de la capacidad real. Por eso varias leyes permiten a los reguladores revisar o actualizar la cifra.

Por qué importa para la SI rebelde

Los umbrales deciden qué modelos se prueban y se vigilan siquiera. Un modelo capaz de volverse rebelde, pero entrenado con la eficiencia suficiente para quedar por debajo de la línea, se escaparía de las normas pensadas para detectarlo.

Leyes y normas que lo usan

• En vigor EU AI Act (GPAI) Unión Europea
• En vigor SB 53 California
• Aprobada, aún no en vigor RAISE Act Nueva York
• Aprobada, aún no en vigor SB 315 Illinois
• En vigor AI Basic Act Corea del Sur

Fuentes

1. Guidelines for providers of general-purpose AI models European Commission · 18 jul 2025
2. SB 53: Artificial intelligence models: large developers CalMatters Digital Democracy