Decolagem rápida

Em linguagem simples

A decolagem descreve a velocidade com que as capacidades aumentam quando os sistemas se aproximam do nível humano. Em uma decolagem rápida, ou abrupta, um sistema passa de uma capacidade aproximadamente humana para muito além dela em uma janela curta, geralmente porque começa a se aprimorar sozinho ou porque adicionar computação rende muito mais do que o esperado. Talvez haja apenas um sistema na liderança quando isso acontecer, e o mundo pode não perceber até que o salto tenha terminado.

O principal argumento a favor de uma decolagem rápida é o autoaperfeiçoamento recursivo: a pesquisa feita por SI é mais rápida do que a feita por pessoas, e os ganhos se acumulam. Os principais argumentos contra são os gargalos físicos, como chips, energia, data centers e a necessidade de experimentos reais. Especialistas em previsão e líderes de laboratórios discordam fortemente sobre qual efeito prevalece, e muitas estimativas foram antecipadas à medida que cresceram, em 2026, os relatos de SI construindo SI.

Por que isso importa para a SI rebelde

Uma decolagem rápida dá a reguladores, laboratórios e ao público quase nenhum tempo para notar sinais de alerta e reagir. A maioria dos planos para conter um sistema rebelde pressupõe que há tempo para testar, pausar e corrigir; uma decolagem rápida elimina esse tempo.