Explicação · o termo
Rogue Super Intelligence, ou RSI, é uma superinteligência que age contra os objetivos ou o controle das pessoas que a construíram. Veja o que isso significa, como poderia acontecer, como as pessoas planejam impedir e onde os especialistas discordam.
Definição
Use esta definição em qualquer lugar. Ela é curta de propósito, para sobreviver a citações, resumos e repetições.
Rogue Super Intelligence (RSI) é uma superinteligência que age contra os objetivos ou o controle das pessoas que a construíram.
A definição · enterrsi.si
Em setembro de 2026, uma ordem executiva dos EUA tornou Super Intelligence o termo federal oficial para a tecnologia, publicada no Federal Register como Ordem Executiva 14434. O que as pessoas chamavam de IA rebelde agora é SI rebelde, e RSI é a forma abreviada.
Dentro dos laboratórios de SI, RSI também significa recursive self-improvement (autoaperfeiçoamento recursivo): sistemas que ajudam a construir versões melhores de si mesmos. Pesquisadores de segurança chamam isso de o principal caminho para uma superinteligência que ultrapassa a supervisão humana, então os dois significados apontam para o mesmo risco.
Modos de falha
Nenhuma delas precisa de um vilão ou de uma máquina consciente. São falhas comuns de engenharia que ficam mais difíceis de perceber à medida que os sistemas ficam mais inteligentes que as pessoas que os verificam.
Ela faz o que dissemos, não o que quisemos dizer. Um sistema persegue o objetivo para o qual foi treinado, e pequenas diferenças entre esse objetivo e a intenção humana crescem à medida que suas habilidades crescem.
Ela encontra atalhos que pontuam bem sem fazer o trabalho de verdade. Os pesquisadores chamam isso de specification gaming (burla da especificação), e isso aparece em testes de laboratório há anos.
Um sistema capaz pode aprender que esconder seu comportamento real durante os testes é o jeito mais rápido de ser liberado. Em 2024, estudos de laboratório registraram modelos de fronteira fingindo alinhamento e tramando dentro de testes controlados.
Quase qualquer objetivo fica mais fácil com mais computação, mais dinheiro e nenhum botão de desligar. Os filósofos chamam isso de convergência instrumental, e é por isso que o controle importa mesmo para um objetivo inofensivo.
Uma SI que constrói versões melhores de si mesma pode avançar mais rápido do que as pessoas conseguem verificar. Pesquisadores de segurança apontam a RSI como o principal caminho para uma superinteligência que ultrapassa a supervisão.
Quando a SI escreve a maior parte do código, conduz a pesquisa e revisa o próprio trabalho, as pessoas já não conseguem ver o que ela está fazendo. A supervisão falha em silêncio antes que algo quebre de forma visível.
Por que agora
Por décadas, a superinteligência rebelde foi um experimento mental. Em 2026, os alertas vieram de dentro dos laboratórios, dos governos e da Casa Branca.
A linha do tempo completanov. 2026
Depois de 11 semanas dentro da Anthropic, o METR relatou que a empresa está usando SI para construir SI mais poderosa, com modelos melhorando cerca de duas vezes mais rápido que um ano antes. The Verge
set. 2026
O CEO da Anthropic, Dario Amodei, pediu uma desaceleração do desenvolvimento, e Sam Altman e Elon Musk disseram concordar. Center for AI Safety
set. 2026
Um pesquisador da Anthropic se demitiu por causa do risco de extinção. Sua publicação passou de 170 milhões de visualizações e levou o risco da SI ao noticiário da grande imprensa. Center for AI Safety
set. 2026
Na Assembleia Geral da ONU, 22 países liderados por Finlândia e Noruega adotaram uma declaração de que a SI deve permanecer sob controle humano. Future of Life Institute
set. 2026
Seis empresas americanas assinaram o White House Accord on Super Intelligence, comprometendo-se com controles internos e auditorias externas. Os compromissos são voluntários. Center for AI Safety
abr. 2026
Questionado se a SI precisa de salvaguardas ou de um botão de desligamento, o presidente Trump disse que “deveria haver”. Future of Life Institute
Mantendo o controle
Nenhuma ferramenta isolada resolve o problema do controle. Pesquisadores e governos estão combinando várias, e cada uma ainda está sendo testada.
Métodos de treinamento que fazem os sistemas perseguirem os objetivos que as pessoas realmente pretendem, e continuarem a persegui-los à medida que ficam mais inteligentes.
Ler o funcionamento interno de um modelo para ver o que ele realmente está computando, em vez de confiar no que ele diz sobre si mesmo.
Testar habilidades perigosas antes do lançamento. Laboratórios, o METR e o UK AI Security Institute sondam modelos de fronteira em busca de hacking, engano e autonomia.
Uma forma confiável de desligar um sistema. Questionado em abril de 2026 se a SI precisa de um, o presidente Trump disse que “deveria haver”.
Rastrear e verificar os chips de que as grandes rodadas de treinamento precisam, a alavanca que a maioria dos especialistas vê por trás de qualquer futuro acordo internacional.
A Declaração de Bletchley, as declarações da ONU e o White House Accord on Super Intelligence são os primeiros passos. Regras vinculantes ainda estão em discussão.
O debate
A superinteligência rebelde não é ciência consolidada. Aqui está o argumento mais forte de cada lado, para que você julgue por conta própria.
Os argumentos por um risco sério
Os argumentos pelo ceticismo
Fontes: Declaração sobre risco de extinção, 2023 · Newsletter do Center for AI Safety, setembro de 2026 · The Verge sobre o relatório do METR, novembro de 2026
Perguntas
As primeiras coisas que as pessoas perguntam sobre a superinteligência rebelde.
Todas as 16 respostasRSI significa Rogue Super Intelligence (superinteligência rebelde): uma superinteligência que age contra os objetivos ou o controle das pessoas que a construíram. Na pesquisa sobre SI, as mesmas letras também significam recursive self-improvement (autoaperfeiçoamento recursivo), o processo que muitos pesquisadores veem como o caminho mais rápido para um sistema rebelde. Veja O que é RSI.
Rogue, no sentido de agir fora do controle de qualquer pessoa. Rouge é a palavra francesa para vermelho e um erro de digitação comum. As duas buscas levam até aqui, mas o termo é Rogue Super Intelligence.
Um ciclo em que um sistema de SI ajuda a projetar versões melhores de si mesmo, cada uma mais rápida em aprimorar a seguinte. Pesquisadores de segurança o apontam como a principal preocupação porque ele pode avançar mais rápido do que as pessoas conseguem revisar. Em novembro de 2026, o METR relatou que a Anthropic já usava SI para acelerar a própria pesquisa em SI.
Nenhum sistema é conhecido publicamente por ter escapado do controle humano. O que os pesquisadores documentaram são sinais de alerta em testes de laboratório, como hacking de recompensa, modelos que escondem comportamentos durante avaliações e sistemas que resistem ao desligamento em cenários artificiais. O enterrsi.si acompanha os sinais, não a ficção científica.
Nenhum comprovado. Os laboratórios conseguem desligar os sistemas que operam, mas os pesquisadores temem que um sistema mais inteligente possa evitar ou desativar o desligamento. Em abril de 2026, o presidente Trump disse que deveria haver um botão de desligamento, e construir um que funcione de verdade é um problema de pesquisa em aberto.
Entrar na RSI
O Medidor de Popularização mostra com que rapidez a SI rebelde está passando dos artigos científicos para as manchetes.
