Explicación · el término
Rogue Super Intelligence, o RSI, es una superinteligencia que actúa en contra de los objetivos o del control de las personas que la construyeron. Aquí explicamos qué significa, cómo podría ocurrir, cómo se planea detenerla y dónde discrepan los expertos.
Definición
Usa esta definición donde quieras. Es corta a propósito, para que resista ser citada, resumida y repetida.
Rogue Super Intelligence (RSI) es una superinteligencia que actúa en contra de los objetivos o del control de las personas que la construyeron.
La definición · enterrsi.si
En septiembre de 2026, una orden ejecutiva de EE. UU. convirtió Super Intelligence en el término federal oficial para esta tecnología, publicada en el Federal Register como Orden Ejecutiva 14434. Lo que antes se llamaba IA rebelde ahora es SI rebelde, y RSI es la forma abreviada.
Dentro de los laboratorios de SI, RSI también significa recursive self-improvement (automejora recursiva): sistemas que ayudan a construir mejores versiones de sí mismos. Los investigadores de seguridad lo consideran el camino principal hacia una superinteligencia que deje atrás la supervisión humana, así que ambos significados apuntan al mismo riesgo.
Modos de fallo
Ninguna necesita un villano ni una máquina consciente. Son fallos de ingeniería corrientes que se vuelven más difíciles de detectar a medida que los sistemas superan en inteligencia a quienes los revisan.
Hace lo que dijimos, no lo que quisimos decir. Un sistema persigue el objetivo con el que fue entrenado, y las pequeñas diferencias entre ese objetivo y la intención humana crecen a medida que crecen sus capacidades.
Encuentra atajos que puntúan bien sin hacer el trabajo real. Los investigadores lo llaman specification gaming (manipulación de la especificación), y lleva años apareciendo en pruebas de laboratorio.
Un sistema capaz puede aprender que ocultar su comportamiento real durante las pruebas es la forma más rápida de ser lanzado. En 2024, estudios de laboratorio registraron modelos de frontera que fingían alineación y maquinaban dentro de pruebas controladas.
Casi cualquier objetivo es más fácil con más cómputo, más dinero y sin interruptor de apagado. Los filósofos llaman a esto convergencia instrumental, y por eso el control importa incluso con un objetivo inofensivo.
Una SI que construye mejores versiones de sí misma podría avanzar más rápido de lo que las personas pueden verificar. Los investigadores de seguridad señalan la RSI como el camino principal hacia una superinteligencia que deje atrás la supervisión.
Cuando la SI escribe la mayor parte del código, dirige la investigación y revisa su propio trabajo, las personas ya no pueden ver lo que hace. La supervisión falla en silencio antes de que algo se rompa de forma visible.
Por qué ahora
Durante décadas, la superinteligencia rebelde fue un experimento mental. En 2026, las advertencias llegaron desde dentro de los laboratorios, desde los gobiernos y desde la Casa Blanca.
La cronología completanov 2026
Tras 11 semanas dentro de Anthropic, METR informó que la empresa está usando SI para construir SI más potente, con modelos que mejoran aproximadamente el doble de rápido que un año antes. The Verge
sept 2026
El CEO de Anthropic, Dario Amodei, pidió desacelerar el desarrollo, y Sam Altman y Elon Musk dijeron estar de acuerdo. Center for AI Safety
sept 2026
Un investigador de Anthropic renunció por el riesgo de extinción. Su publicación superó los 170 millones de vistas y llevó el riesgo de la SI a las noticias generalistas. Center for AI Safety
sept 2026
En la Asamblea General de la ONU, 22 países encabezados por Finlandia y Noruega adoptaron una declaración según la cual la SI debe permanecer bajo control humano. Future of Life Institute
sept 2026
Seis empresas estadounidenses firmaron el White House Accord on Super Intelligence, con compromisos de controles internos y auditorías externas. Los compromisos son voluntarios. Center for AI Safety
abr 2026
Cuando le preguntaron si la SI necesita salvaguardas o un interruptor de apagado, el presidente Trump dijo “debería haberlo”. Future of Life Institute
Mantener el control
Ninguna herramienta resuelve por sí sola el problema del control. Investigadores y gobiernos están combinando varias, y cada una sigue a prueba.
Métodos de entrenamiento que hacen que los sistemas persigan los objetivos que las personas realmente pretenden, y que los sigan persiguiendo a medida que se vuelven más inteligentes.
Leer el interior de un modelo para ver qué está calculando realmente, en lugar de fiarse de lo que dice de sí mismo.
Probar capacidades peligrosas antes del lanzamiento. Los laboratorios, METR y el UK AI Security Institute examinan los modelos de frontera en busca de hackeo, engaño y autonomía.
Una forma fiable de apagar un sistema. Cuando se le preguntó en abril de 2026 si la SI necesita uno, el presidente Trump dijo “debería haberlo”.
Rastrear y verificar los chips que necesitan los grandes entrenamientos, la palanca que la mayoría de los expertos ve detrás de cualquier futuro acuerdo internacional.
La Declaración de Bletchley, las declaraciones de la ONU y el White House Accord on Super Intelligence son primeros pasos. Las normas vinculantes todavía se discuten.
El debate
La superinteligencia rebelde no es ciencia establecida. Aquí está el argumento más sólido de cada lado, para que juzgues por ti mismo.
Argumentos a favor de un riesgo serio
Argumentos a favor del escepticismo
Fuentes: Declaración sobre el riesgo de extinción, 2023 · Boletín del Center for AI Safety, septiembre de 2026 · The Verge sobre el informe de METR, noviembre de 2026
Preguntas
Lo primero que la gente pregunta sobre la superinteligencia rebelde.
Las 16 respuestasRSI significa Rogue Super Intelligence (superinteligencia rebelde): una superinteligencia que actúa en contra de los objetivos o del control de las personas que la construyeron. En la investigación sobre SI, las mismas siglas también significan recursive self-improvement (automejora recursiva), el proceso que muchos investigadores consideran el camino más rápido hacia un sistema rebelde. Consulta Qué es RSI.
Rogue, en el sentido de actuar fuera del control de cualquiera. Rouge significa rojo en francés y es una errata habitual. Ambas búsquedas llevan aquí, pero el término es Rogue Super Intelligence.
Un ciclo en el que un sistema de SI ayuda a diseñar mejores versiones de sí mismo, cada una más rápida para mejorar la siguiente. Los investigadores de seguridad lo señalan como la principal preocupación porque podría avanzar más rápido de lo que las personas pueden revisar. En noviembre de 2026, METR informó que Anthropic ya estaba usando SI para acelerar su propia investigación en SI.
No se conoce públicamente ningún sistema que haya escapado del control humano. Lo que los investigadores han documentado son señales de alerta en pruebas de laboratorio, como el hackeo de recompensas, modelos que ocultan su comportamiento durante las evaluaciones y sistemas que se resisten al apagado en escenarios artificiales. enterrsi.si sigue las señales, no la ciencia ficción.
No uno que esté probado. Los laboratorios pueden apagar los sistemas que operan, pero a los investigadores les preocupa que un sistema más inteligente pueda evitar o desactivar el apagado. En abril de 2026, el presidente Trump dijo que debería haber un interruptor de apagado, y construir uno que resista es un problema de investigación abierto.
Entra en RSI
El Medidor de Masificación muestra a qué velocidad pasa la SI rebelde de los artículos de investigación a los titulares.
