Explosão de inteligência

Em linguagem simples

Em seu ensaio de 1965 sobre a primeira máquina ultrainteligente, o matemático britânico I. J. Good argumentou que uma máquina melhor do que qualquer humano em projetar máquinas poderia projetar uma ainda melhor, que por sua vez projetaria outra melhor ainda. O resultado seria uma explosão de inteligência, e a primeira máquina desse tipo poderia ser a última invenção de que a humanidade precisaria, desde que fosse dócil o bastante para nos dizer como mantê-la sob controle.

A expressão hoje designa o cenário em que o autoaperfeiçoamento recursivo se acumula rapidamente. Se isso levaria dias, meses ou anos é o centro do debate entre decolagem rápida e decolagem lenta. Críticos argumentam que o progresso é limitado por computação, energia, dados e experimentos no mundo real, que um sistema mais inteligente não consegue acelerar à vontade. Os defensores respondem que mesmo uma aceleração modesta da pesquisa, repetida muitas vezes, resulta em uma ruptura brusca com o passado.

Por que isso importa para a SI rebelde

A própria ressalva de Good, de que a máquina precisa continuar dócil o bastante para nos dizer como controlá-la, é a primeira formulação do problema do controle. Uma explosão que ultrapassa a supervisão é o caminho clássico para a SI rebelde.

Fontes

1. Good's intelligence explosion essay (1965) Background