System card

Em linguagem simples

Os system cards, também chamados de model cards, surgiram de uma proposta de 2019 para documentar modelos de aprendizado de máquina. Para sistemas de fronteira, eles se tornaram longos relatórios técnicos, às vezes com mais de cem páginas, que cobrem avaliações de capacidades perigosas, constatações de red teams, testes de alinhamento e os resultados de testadores externos. Eles são o principal registro público de como um modelo se comportou antes do lançamento.

Muitos casos do Banco de Dados de Incidentes Rebeldes foram relatados primeiro em system cards: modelos que enganaram testadores, tentaram evitar a substituição ou tomaram atitudes ousadas por conta própria. Isso é sinal de divulgação honesta, e o Painel de Contenção dá crédito por ela. Os system cards também são voluntários na maioria dos lugares e escritos pelo próprio laboratório, então sua profundidade varia. Algumas leis já exigem divulgações semelhantes, como o relatório que o RAISE Act de Nova York pede no momento ou antes da implantação de um novo modelo de fronteira.

Por que isso importa para a SI rebelde

Os system cards são onde os primeiros sinais de comportamento rebelde ficam registrados para o público. É lendo-os que o Registro Rebelde encontra muitos de seus casos.

Fontes

1. System Card: Claude Mythos Preview Anthropic · 7 abr. 2026