Divulgação de incidentes

Em linguagem simples

Quando um modelo se comporta de forma perigosa em testes ou em uso, alguém precisa avisar quem precisa saber. A divulgação de incidentes vai de posts voluntários em blogs e seções de system cards até obrigações legais. O EU AI Act exige que os fornecedores de modelos de propósito geral com risco sistêmico acompanhem e reportem incidentes graves ao AI Office. O RAISE Act de Nova York exige que incidentes críticos de segurança sejam reportados ao estado em até 72 horas, ou 24 horas se houver risco iminente de morte ou lesão grave, e a SB 315 de Illinois estabelece prazos semelhantes.

A divulgação tem um incentivo incômodo: laboratórios que relatam mais parecem piores. O Painel de Contenção dá crédito pela divulgação em si, e o Banco de Dados de Incidentes Rebeldes depende dela, já que a maioria dos casos vem de laboratórios, institutos e pesquisadores que escolheram publicar. Em setembro de 2026, a ordem executiva N-9-26 da Califórnia pediu recomendações para ampliar a notificação de incidentes aos incidentes de perda de controle.

Por que isso importa para a SI rebelde

A SI rebelde não vai se anunciar. As regras de divulgação decidem se os primeiros sinais de alerta chegam ao público, aos reguladores e a outros laboratórios, ou se ficam dentro de uma única empresa.

Leis e regras que o usam

• Em vigor EU AI Act (GPAI) União Europeia
• Voluntária ou orientação GPAI Code of Practice (Safety and Security) União Europeia
• Voluntária ou orientação CAISSI Estados Unidos
• Proposta FRONTIER Act Estados Unidos
• Em vigor SB 53 Califórnia
• Em vigor EO N-9-26 Califórnia
• Aprovada, ainda não em vigor RAISE Act Nova York
• Aprovada, ainda não em vigor SB 315 Illinois

Fontes

1. Guidelines for providers of general-purpose AI models European Commission · 18 jul. 2025
2. The General-Purpose AI Code of Practice European Commission · 7 out. 2026