Explosión de inteligencia

En palabras sencillas

En su ensayo de 1965 sobre la primera máquina ultrainteligente, el matemático británico I. J. Good sostuvo que una máquina mejor que cualquier humano diseñando máquinas podría diseñar otra aún mejor, que a su vez diseñaría otra todavía mejor. El resultado sería una explosión de inteligencia, y la primera de esas máquinas podría ser el último invento que la humanidad necesite jamás, siempre que sea lo bastante dócil como para decirnos cómo mantenerla bajo control.

La expresión designa hoy el escenario en el que la automejora recursiva se acumula rápidamente. Si tardaría días, meses o años es el núcleo del debate entre despegue rápido y despegue lento. Los críticos sostienen que el progreso está limitado por el cómputo, la energía, los datos y los experimentos en el mundo real, que un sistema más inteligente no puede acelerar a voluntad. Quienes defienden la idea responden que incluso una aceleración modesta de la investigación, repetida muchas veces, se traduce en una ruptura brusca con el pasado.

Por qué importa para la SI rebelde

La propia advertencia de Good, que la máquina debe seguir siendo lo bastante dócil como para decirnos cómo controlarla, es la primera formulación del problema del control. Una explosión que deje atrás la supervisión es la vía clásica hacia una SI rebelde.

Fuentes

1. Good's intelligence explosion essay (1965) Background