Zekâ patlaması

Sade bir dille

İngiliz matematikçi I. J. Good, ilk ultra zeki makine üzerine 1965'te yazdığı makalede, makine tasarlamada her insandan daha iyi olan bir makinenin daha da iyi bir makine tasarlayabileceğini, onun da daha iyisini tasarlayacağını savundu. Sonuç bir zekâ patlaması olurdu ve böyle ilk makine, onu kontrol altında nasıl tutacağımızı bize söyleyecek kadar uysal olması koşuluyla, insanlığın ihtiyaç duyacağı son icat olabilirdi.

Bu ifade bugün, özyinelemeli kendini geliştirmenin hızla katlanarak arttığı senaryoyu adlandırır. Bunun günler, aylar ya da yıllar sürüp sürmeyeceği, hızlı ve yavaş kalkış tartışmasının özünü oluşturur. Eleştirmenler ilerlemenin hesaplama gücü, enerji, veri ve daha akıllı bir sistemin istediği gibi hızlandıramayacağı gerçek dünya deneyleriyle sınırlı olduğunu savunur. Destekçiler ise araştırmadaki mütevazı bir hızlanmanın bile defalarca tekrarlandığında geçmişten keskin bir kopuşa varacağını söyler.

Kontrolden çıkmış SI açısından neden önemli

Good'un kendi çekincesi, yani makinenin onu nasıl kontrol edeceğimizi bize söyleyecek kadar uysal kalması gerektiği, kontrol probleminin bilinen en erken ifadesidir. Gözetimi geride bırakan bir patlama, kontrolden çıkmış SI'a giden klasik yoldur.

Kaynaklar

1. Good's intelligence explosion essay (1965) Background