Compromisso de pausa

Em linguagem simples

As pausas assumem duas formas. Os compromissos dos laboratórios ficam escritos nas estruturas de segurança: se um modelo atinge um nível de capacidade que o laboratório ainda não consegue proteger, o desenvolvimento ou a implantação param até que as mitigações estejam prontas. As pausas públicas são apelos para que todo um setor pare, como a carta aberta de 2023 que pedia uma pausa de seis meses no treinamento de sistemas mais poderosos do que o GPT-4, ou a declaração de 2025 que pedia a proibição de construir superinteligência até que isso possa ser feito com segurança e com forte apoio público.

Os compromissos de pausa dos laboratórios enfraqueceram em vários casos. A Anthropic substituiu um compromisso de pausa anterior por compromissos que dependem do que os concorrentes fazem, e a Meta mudou sua resposta no limite Critical de parar para desenvolver com mitigações. A estrutura da Microsoft a compromete a pausar o desenvolvimento e a implantação de um modelo cujo risco não consiga mitigar suficientemente. A nota de desligamento e pausa do Painel de Contenção mede o quão firme é cada promessa.

Por que isso importa para a SI rebelde

Uma pausa é a versão planejada de um botão de desligamento: parar antes que um sistema seja construído, e não depois que ele se comporte mal. Sua credibilidade decide se os laboratórios parariam a tempo.

Leis e regras que o usam

• Paralisada ou retirada SB 24-205 Colorado
• Voluntária ou orientação Declaração do FLI Sociedade civil global

Fontes

1. The pause letter (2023) Future of Life Institute
2. The Statement on Superintelligence (2025) Statement on Superintelligence
3. Colorado Delays AI Act to June 2026; Businesses Get Breathing Room PYMNTS · 10 set. 2025
4. Statement on Superintelligence Future of Life Institute