わかりやすく言うと
pは確率（probability）を、doomは人類の絶滅や制御の永続的な喪失に匹敵するほど悪い結末を表す。この言葉は研究者の間の内輪のジョークとして始まり、ポッドキャスト、ソーシャルメディア、インタビューを通じて広まった。そうした場ではゲストがしばしば自分の数字を尋ねられる。著名な研究者やラボの指導者の答えは、1パーセント未満から50パーセント超まで幅がある。
p(doom)は測定値ではなく個人の判断である。破滅や時間枠の意味は人によって異なり、その数字には、アラインメントがどれだけ難しいか、能力がどれだけ速く伸びるか、制度がどれだけうまく対応するかについての考えが混ざり合っている。その価値は会話のきっかけになる点にある。誰かがどれだけ懸念しているのかを明確に述べさせるからである。予測市場や予測プラットフォームは、特定の出来事や日付に関する質問によって、より構造化された形を提供しており、RSIクロックはその一部を入力として用いている。
暴走SIにとっての重要性
p(doom)は、暴走SIをめぐる議論が公の場でしばしば要約される形である。RSIクロックは代わりの選択肢を提供する。個人の推測ではなく、公開データから公表された計算式で算出される一つの数字である。
RSI百科事典
さらに読む
暴走SIに関する用語、ラボ、モデル、法律、出来事の207項目に加え、暴走インシデント・データベースの全事例を収録しています。
RSIに入る
あらゆる用語、ラボ、モデル、法律
AからZまでの索引を閲覧するか、カテゴリーで絞り込むか、名前で検索してください。