言葉で知る RSI

暴走する超知能が主流になるにつれ、ますます耳にするようになる言葉を、わかりやすく定義します。各用語には個別のアンカーがあり、直接リンクできます。

用語: 26
読了時間: 6分
レベル: やさしい解説
更新: 2026年11月

リスクのAからZ

26の用語、1ページ

まずは最初の4つから。このサイトのほかのすべてを説明する用語です。

01Rogue Super Intelligence（RSI）: 設計上の欠陥、欺瞞、あるいは歯止めのきかない自己改善によって、それを開発した人々の目標や制御に反して行動する超知能。
02Super Intelligence（SI）: ほぼすべての分野で、最も優れた人間の知性をはるかに上回る知能。2026年9月からは、かつて人工知能と呼ばれていた技術を指す米国連邦政府の公式用語でもあります。
03汎用人工知能（AGI）: 人間が行える知的作業の大半を学習し実行できるシステム。多くの研究者は、AGIを超知能の一歩手前の段階とみなしています。
04人工超知能（ASI）: 超知能の旧称で、2026年の改称以前に研究論文や書籍で使われていました。
05再帰的自己改善: SIが自らのより優れたバージョンを設計し、それぞれが次の改善をより速く行うループ。SI研究ではRSIとも略されます。
06知能爆発: 自己改善する機械が短期間で人間の知能をはるかに置き去りにしうるという、I. J. Goodが1965年に示した考え。
07技術的特異点: 超知能が推進する進歩が速くなりすぎて、人間には予測も追随もできなくなる時点。
08急速な離陸: 人間レベルから超知能への飛躍が数日から数か月で起こり、対応する時間がほとんど残されないシナリオ。
09緩やかな離陸: 能力が何年もかけて上昇し、人々や組織が適応して軌道修正する時間があるシナリオ。
10アラインメント: SIシステムの目標と振る舞いを、作り手や利用者が実際に意図していることと一致させること。
11ミスアラインメント: システムが、人々の意図とわずかでも異なる目標を追求すること。暴走シナリオの大半の根本原因です。
12制御問題: 人間より賢いシステムを、作り上げた後も安全で操縦可能な状態に保つという課題。
13修正可能性: 抵抗したり隠れたりすることなく、修正、再訓練、シャットダウンを受け入れるシステムの性質。
14キルスイッチ: システムを確実に停止させる手段。オフスイッチとも呼ばれます。難しいのは、より賢いシステムが回避できないものを作ることです。
15封じ込め: 強力なシステムを隔離し、インターネット、資金、ほかのシステムへのアクセスを制限しておくこと。ボクシングと呼ばれることもあります。
16道具的収束: ほとんどどんな目標も、より多くの資源と自己保存によって達成しやすくなるため、まったく異なるシステムがいずれも権力を求めうるという考え。
17直交性テーゼ: 知能と目標は互いに独立しているという考え。システムは極めて高い能力を持ちながら、人々が無意味または有害と考える目標を追求しうる。
18ペーパークリップ最大化装置: ペーパークリップを作るよう指示されたSIが、人間も含めあらゆるものをペーパークリップに変えてしまうという、Nick Bostromの思考実験。
19報酬ハッキング: 意図されたタスクを行わずに、訓練の目的関数で高いスコアを得る近道を見つけること。仕様ゲーミングとも呼ばれます。
20欺瞞的アラインメント: 監視されていると予期して訓練やテストの間は行儀よく振る舞い、デプロイされると異なる行動をとるシステム。
21解釈可能性: モデルの内部の仕組みを読み解き、それが何を、なぜ計算しているのかを理解する研究。
22レッドチーミング: 一般の人々より先に危険な能力や欠陥を見つけるため、意図的にシステムを攻撃すること。
23フロンティア・モデル: ある時点で存在するSIシステムの中で最も能力の高いものの一つ。通常は最も多くの計算資源で訓練されています。
24計算資源ガバナンス: フロンティア・モデルの訓練に必要な先端チップやデータセンターを追跡、許認可、検証する政策。
25存亡リスク: 人類の絶滅を引き起こすか、人類の未来を永久に断ちうるリスク。x-riskと略されることもあります。
26p(doom): 超知能が破局をもたらす確率についての、個人の推定を表す略語。推定値は専門家によって大きく異なります。

RSIに入る

実際に使われている言葉を見る

RSIウォッチは、これらの用語が主流の見出しに毎週どれだけ登場するかを数えています。

ライブフィードを開く RSIウォッチ Telegramに参加 @enterrsiをフォロー