# Bostromのペーパークリップ最大化装置（2003年）：SIの歴史

> Nick Bostromは、ペーパークリップ作りのような無害な目標でも、超知能が追求すれば破局に至りうることを示した。出典にリンク。

Source: https://enterrsi.si/ja/encyclopedia/bostroms-paperclip-maximizer-2003/
Updated: 2026-11-08

1. [ホーム](https://enterrsi.si/ja/)
2. [百科事典](https://enterrsi.si/ja/encyclopedia/)
3. Bostromのペーパークリップ最大化装置（2003年）

RSI百科事典 · 出来事 · 2003年

# Bostromのペーパークリップ最大化装置（2003年）

Nick Bostromは、ペーパークリップを作るといった無害な目標であっても、超知能が追求すれば破局に至りうることを示しました。

日付
:   2003

種類
:   マイルストーン

状況
:   発生済み

時代
:   2003

## 何が起きたか

Nick Bostromは、ペーパークリップを作るといった無害な目標であっても、超知能が追求すれば破局に至りうることを示しました。

## なぜ重要か

この例は高度な機械知能の倫理に関する論文のごく一部だったが、ミスアラインメントを起こした超知能の最もよく知られた姿となった。悪意はなく、ただ限度なく追求される目標があるだけである。

## 出典

1. [Bostrom, 2003](https://nickbostrom.com/ethics/ai)

## タイムライン上で

この出来事は、1950年からSIがSIを作る時代までを描く[RSIタイムライン](https://enterrsi.si/ja/timeline/)上の20のマイルストーンの一つです。

出来事

日付
:   2003

種類
:   タイムラインのマイルストーン

関連用語

[ペーパークリップ最大化装置 **用語**](https://enterrsi.si/ja/encyclopedia/paperclip-maximizer/)[直交性テーゼ **用語**](https://enterrsi.si/ja/encyclopedia/orthogonality-thesis/)

この項目を引用する

「Bostromのペーパークリップ最大化装置（2003年）」『RSI百科事典』enterrsi.si、2026年11月8日。https://enterrsi.si/ja/encyclopedia/bostroms-paperclip-maximizer-2003/

enterrsi.siへのリンクを添えれば、CC BY 4.0のもとで自由に引用できます。

RSI百科事典

## さらに読む

暴走SIに関する用語、ラボ、モデル、法律、出来事の207項目に加え、暴走インシデント・データベースの全事例を収録しています。

[前の出来事 ブレッチリー・パーク・サミット（2023年）](https://enterrsi.si/ja/encyclopedia/the-bletchley-park-summit-2023/)[次の出来事 再帰的自己改善の制限を求める呼びかけ（2026年）](https://enterrsi.si/ja/encyclopedia/the-call-to-limit-recursive-self-improvement-2026/)

RSIに入る

## あらゆる用語、ラボ、モデル、法律

AからZまでの索引を閲覧するか、カテゴリーで絞り込むか、名前で検索してください。

[百科事典を開く](https://enterrsi.si/ja/encyclopedia/)
[インシデント・データベース](https://enterrsi.si/ja/incidents/)
[封じ込めボード](https://enterrsi.si/ja/containment-board/)