# Problema do controle: o que é e por que importa

> O problema do controle é manter seguro e governável um sistema mais inteligente que os humanos depois de construído. Explicado de forma simples, com fontes.

Source: https://enterrsi.si/pt/encyclopedia/control-problem/
Updated: 2026-11-08

1. [Início](https://enterrsi.si/pt/)
2. [Enciclopédia](https://enterrsi.si/pt/encyclopedia/)
3. Problema do controle

Enciclopédia RSI · Termo

# Problema do controle

O problema do controle é o desafio de manter um sistema mais inteligente que os humanos seguro e controlável depois de construído.

Categoria
:   Termo

Também chamado
:   problema do controle da SI

Casos no Registro Rebelde
:   0

Leis que o usam
:   0

## Em linguagem simples

A expressão foi popularizada pelo livro Superintelligence, de Nick Bostrom, de 2014. Ela pergunta como as pessoas poderiam manter um controle significativo sobre um sistema capaz de superá-las intelectualmente, perceber suas salvaguardas e, se seus objetivos forem diferentes, buscar formas de contorná-las. Há duas estratégias gerais. O controle de capacidade limita o que um sistema pode fazer: isolá-lo, restringir seu acesso, monitorá-lo e manter uma forma de desligá-lo. A seleção de motivação tenta dar a ele objetivos que o façam querer permanecer seguro e corrigível.

Os laboratórios modernos combinam as duas. A pesquisa de alinhamento molda as motivações do sistema, enquanto a pesquisa de controle parte do princípio de que o sistema pode estar desalinhado e projeta monitoramento, sandboxes e revisão humana que continuem funcionando nesse caso. Nenhuma das abordagens está comprovada em níveis sobre-humanos. Por isso, o problema do controle diz respeito tanto a instituições quanto a código: quem pode ordenar um desligamento, quem verifica e o que acontece se um laboratório estiver sob pressão para continuar.

## Por que isso importa para a SI rebelde

A SI rebelde é a cara de um problema do controle perdido. O Painel de Contenção avalia os laboratórios no lado institucional do controle: compromissos de desligamento, testes externos e a liberdade dos funcionários para dar o alarme.

## Fontes

1. [Superintelligence: Paths, Dangers, Strategies (2014)](https://global.oup.com/academic/product/superintelligence-9780199678112) Oxford University Press

O termo

Termo
:   Problema do controle

Também chamado
:   problema do controle da SI

Categoria
:   Termo

Termos relacionados
:   5

Termos relacionados

[Contenção **Termo**](https://enterrsi.si/pt/encyclopedia/containment/)[Botão de desligamento **Termo**](https://enterrsi.si/pt/encyclopedia/kill-switch/)[Corrigibilidade **Termo**](https://enterrsi.si/pt/encyclopedia/corrigibility/)[Alinhamento **Termo**](https://enterrsi.si/pt/encyclopedia/alignment/)[Compromisso de pausa **Termo**](https://enterrsi.si/pt/encyclopedia/pause-commitment/)

Cite este verbete

"Problema do controle." Enciclopédia RSI, enterrsi.si, 8 de novembro de 2026. https://enterrsi.si/pt/encyclopedia/control-problem/

Livre para citar sob CC BY 4.0, com link para enterrsi.si.

A Enciclopédia RSI

## Continue lendo

207 verbetes sobre os termos, laboratórios, modelos, leis e eventos da SI rebelde, além de todos os casos do Banco de Dados de Incidentes Rebeldes.

[Termo anterior Contenção](https://enterrsi.si/pt/encyclopedia/containment/)[Próximo termo Corrigibilidade](https://enterrsi.si/pt/encyclopedia/corrigibility/)

Entrar na RSI

## Todos os termos, laboratórios, modelos e leis

Navegue pelo índice completo de A a Z, filtre por categoria ou busque um nome.

[Abrir a enciclopédia](https://enterrsi.si/pt/encyclopedia/)
[Banco de Dados de Incidentes](https://enterrsi.si/pt/incidents/)
[Painel de Contenção](https://enterrsi.si/pt/containment-board/)