1. Beranda
  2. Ensiklopedia
  3. p(doom)

Ensiklopedia RSI · Istilah

p(doom)

p(doom) adalah singkatan untuk perkiraan probabilitas seseorang bahwa kecerdasan super akan berujung pada bencana.

Kategori
Istilah
Disebut juga
probability of doom, pdoom
Kasus Log Lepas Kendali
0
Hukum yang memakainya
0

Dalam bahasa sederhana

Huruf p berarti probabilitas, dan doom berarti hasil seburuk kepunahan manusia atau hilangnya kendali secara permanen. Istilah ini berawal sebagai lelucon internal di kalangan peneliti dan menyebar melalui podcast, media sosial, dan wawancara, tempat para tamu sering ditanya berapa angka mereka. Jawaban dari peneliti dan pemimpin lab terkemuka berkisar dari di bawah 1 persen hingga di atas 50 persen.

p(doom) adalah penilaian pribadi, bukan pengukuran. Orang memaknai doom dan rentang waktunya secara berbeda-beda, dan angka itu mencampurkan keyakinan tentang seberapa sulit penyelarasan, seberapa cepat kemampuan tumbuh, dan seberapa baik institusi merespons. Nilainya terletak pada fungsinya sebagai pembuka percakapan: angka itu memaksa seseorang menyatakan dengan jelas seberapa khawatir dirinya. Pasar prediksi dan platform peramalan menawarkan versi yang lebih terstruktur, dengan pertanyaan tentang peristiwa dan tanggal tertentu, dan Jam RSI memakai sebagian di antaranya sebagai masukan.

Mengapa ini penting bagi SI lepas kendali

p(doom) adalah cara perdebatan tentang SI lepas kendali sering diringkas di ruang publik. Jam RSI menawarkan alternatif: satu angka yang dibangun dari data publik dengan rumus yang dipublikasikan, bukan tebakan pribadi.

Ensiklopedia RSI

Lanjut membaca

207 entri tentang istilah, lab, model, hukum, dan peristiwa seputar SI lepas kendali, ditambah setiap kasus di Basis Data Insiden Lepas Kendali.

Masuk ke RSI

Setiap istilah, lab, model, dan hukum

Jelajahi indeks lengkap A sampai Z, saring menurut kategori, atau cari sebuah nama.