Varoluşsal risk

Sade bir dille

Filozof Nick Bostrom 2002'de varoluşsal riskleri, Dünya kökenli akıllı yaşamı yok edecek ya da potansiyelini kalıcı ve büyük ölçüde kısıtlayacak riskler olarak tanımladı. Nükleer savaş, laboratuvarda tasarlanmış salgınlar ve asteroit çarpmaları klasik örneklerdir. 2010'lardan bu yana giderek artan sayıda araştırmacı, hizalanmamış süper zekâyı listenin üst sıralarına yerleştirdi; çünkü böyle bir sistem, onu durdurma girişimlerine karşı stratejik olarak hareket edebilir.

Bu kaygı 2023'te ana akıma girdi: laboratuvar liderleri ve araştırmacılar, bu teknolojiden kaynaklanan yok oluş riskini azaltmanın salgınlar ve nükleer savaşla birlikte küresel bir öncelik olması gerektiğini söyleyen tek cümlelik bir bildiriyi imzaladı. Olasılık tahminleri ihmal edilebilir düzeyden çok yükseğe kadar büyük farklılıklar gösterir ve bazen p(doom) olarak özetlenir. Şüpheciler riskin spekülatif olduğunu ve bugünkü zararlardan dikkati dağıttığını savunur; destekçiler ise yanılmanın bedelinin göz ardı edilemeyecek kadar yüksek olduğunu söyler.

Kontrolden çıkmış SI açısından neden önemli

Kontrolden çıkmış SI, bu teknolojiden kaynaklanan varoluşsal risk olarak en sık anılan senaryodur. RSI Saati, dünyanın buna ne kadar yakın olduğuna kamuya açık ve doğrulanabilir bir sayı koymak için vardır.

Kaynaklar

1. The statement on extinction risk (2023) Center for AI Safety