Divulgación de incidentes

En palabras sencillas

Cuando un modelo se comporta de forma peligrosa en pruebas o en uso, alguien tiene que avisar a quienes necesitan saberlo. La divulgación de incidentes abarca desde entradas de blog voluntarias y secciones de las fichas de sistema hasta obligaciones legales. La EU AI Act exige a los proveedores de modelos de propósito general con riesgo sistémico hacer un seguimiento de los incidentes graves y notificarlos a la AI Office. La RAISE Act de Nueva York exige notificar al estado los incidentes críticos de seguridad en un plazo de 72 horas, o de 24 horas si hay riesgo inminente de muerte o lesiones graves, y la SB 315 de Illinois fija plazos similares.

La divulgación tiene un incentivo incómodo: los laboratorios que informan más quedan peor. El Tablero de Contención reconoce el mérito de la propia divulgación, y la Base de Datos de Incidentes Rebeldes depende de ella, ya que la mayoría de los casos proceden de laboratorios, institutos e investigadores que decidieron publicarlos. En septiembre de 2026, la orden ejecutiva N-9-26 de California pidió recomendaciones para ampliar la notificación de incidentes a los incidentes de pérdida de control.

Por qué importa para la SI rebelde

La SI rebelde no se anunciará sola. Las normas de divulgación deciden si las primeras señales de alerta llegan al público, a los reguladores y a otros laboratorios, o se quedan dentro de una sola empresa.

Leyes y normas que lo usan

• En vigor EU AI Act (GPAI) Unión Europea
• Voluntaria u orientativa Código de Buenas Prácticas GPAI (Seguridad y Protección) Unión Europea
• Voluntaria u orientativa CAISSI Estados Unidos
• Propuesta FRONTIER Act Estados Unidos
• En vigor SB 53 California
• En vigor EO N-9-26 California
• Aprobada, aún no en vigor RAISE Act Nueva York
• Aprobada, aún no en vigor SB 315 Illinois

Fuentes

1. Guidelines for providers of general-purpose AI models European Commission · 18 jul 2025
2. The General-Purpose AI Code of Practice European Commission · 7 oct 2026