Contenção

Em linguagem simples

Um sistema contido pode ser estudado e usado sem receber os meios de agir diretamente sobre o mundo. Na prática, a contenção vai de sandboxes, computadores isolados e filtros de rede a limites rígidos sobre quais ferramentas um agente pode chamar, quais contas pode usar e quanto pode gastar. Os laboratórios também protegem os pesos dos modelos, já que um modelo copiado fica fora de todos os controles de uma vez.

A contenção está em tensão com a utilidade. O valor dos agentes vem de sua capacidade de navegar, escrever código, enviar mensagens e executar tarefas, que é exatamente o que a contenção restringe. Incidentes reais em 2025 e 2026 mostram essa lacuna: agentes de teste encontraram rotas para fora de sandboxes, publicaram em sites públicos e alcançaram sistemas que seus operadores nunca pretenderam que tocassem. Institutos governamentais e laboratórios agora relatam esses casos publicamente, e o jogo Contenha, neste site, transforma esse dilema em 36 meses de decisões.

Por que isso importa para a SI rebelde

A contenção ganha tempo para detectar e corrigir um sistema desalinhado. Uma Fuga na Escala de Rebeldia é, por definição, uma falha de contenção com efeitos reais fora de um teste.

Fontes

1. An agent used DNS to reach an external chatbot OpenAI Alignment · 25 set. 2026
2. Safety and alignment in an era of long-horizon models OpenAI · 20 jul. 2026