# Problema del control: qué significa y por qué importa > El problema del control es el reto de mantener seguro y dirigible un sistema más inteligente que los humanos una vez construido. Explicado con claridad, con fuentes. Source: https://enterrsi.si/es/encyclopedia/control-problem/ Updated: 2026-11-08 1. [Inicio](https://enterrsi.si/es/) 2. [Enciclopedia](https://enterrsi.si/es/encyclopedia/) 3. Problema del control Enciclopedia RSI · Término # Problema del control El problema del control es el reto de mantener seguro y controlable un sistema más inteligente que los humanos una vez construido. Categoría : Término También llamado : problema del control de la SI Casos del Registro Rebelde : 0 Leyes que lo usan : 0 ## En palabras sencillas La expresión se popularizó con el libro de Nick Bostrom de 2014 Superintelligence. Plantea cómo podrían las personas mantener un control significativo sobre un sistema capaz de pensar mejor que ellas, detectar sus salvaguardas y, si sus objetivos difieren, buscar formas de eludirlas. Existen dos grandes estrategias. El control de capacidades limita lo que puede hacer un sistema: aislarlo, restringir su acceso, supervisarlo y conservar una forma de apagarlo. La selección de motivaciones intenta darle objetivos que lo lleven a querer seguir siendo seguro y corregible. Los laboratorios modernos combinan ambas. La investigación en alineación moldea las motivaciones del sistema, mientras que la investigación en control asume que el sistema podría estar desalineado y diseña una supervisión, un aislamiento en sandbox y una revisión humana que sigan funcionando en ese caso. Ninguno de los dos enfoques está probado a niveles sobrehumanos. Por eso el problema del control tiene tanto que ver con las instituciones como con el código: quién puede ordenar un apagado, quién lo comprueba y qué pasa si un laboratorio sufre presiones para seguir adelante. ## Por qué importa para la SI rebelde La SI rebelde es el aspecto que tiene un problema del control perdido. El Tablero de Contención califica a los laboratorios en el lado institucional del control: compromisos de apagado, pruebas externas y la libertad del personal para dar la voz de alarma. ## Fuentes 1. [Superintelligence: Paths, Dangers, Strategies (2014)](https://global.oup.com/academic/product/superintelligence-9780199678112) Oxford University Press El término Término : Problema del control También llamado : problema del control de la SI Categoría : Término Términos relacionados : 5 Términos relacionados [Contención **Término**](https://enterrsi.si/es/encyclopedia/containment/)[Interruptor de apagado **Término**](https://enterrsi.si/es/encyclopedia/kill-switch/)[Corregibilidad **Término**](https://enterrsi.si/es/encyclopedia/corrigibility/)[Alineación **Término**](https://enterrsi.si/es/encyclopedia/alignment/)[Compromiso de pausa **Término**](https://enterrsi.si/es/encyclopedia/pause-commitment/) Cita esta entrada "Problema del control". Enciclopedia RSI, enterrsi.si, 8 de noviembre de 2026. https://enterrsi.si/es/encyclopedia/control-problem/ Libre de citar bajo CC BY 4.0 con un enlace a enterrsi.si. La Enciclopedia RSI ## Sigue leyendo 207 entradas sobre los términos, laboratorios, modelos, leyes y eventos de la SI rebelde, además de cada caso de la Base de Datos de Incidentes Rebeldes. [Término anterior Contención](https://enterrsi.si/es/encyclopedia/containment/)[Término siguiente Corregibilidad](https://enterrsi.si/es/encyclopedia/corrigibility/) Entra en RSI ## Cada término, laboratorio, modelo y ley Explora el índice completo de la A a la Z, filtra por categoría o busca un nombre. [Abrir la enciclopedia](https://enterrsi.si/es/encyclopedia/) [Base de Datos de Incidentes](https://enterrsi.si/es/incidents/) [Tablero de Contención](https://enterrsi.si/es/containment-board/)