Bostrom 的回形针最大化器（2003）

发生了什么

Nick Bostrom 阐明，超级智能追求的一个无害目标（比如制造回形针）仍可能以灾难告终。

为何重要

这个例子只是一篇关于高级机器智能伦理的论文中的一小部分，却成了未对齐超级智能最广为人知的写照：没有恶意，只是一个被无限追求的目标。

来源

1. Bostrom, 2003

在时间线上

该大事件是RSI 时间线上 20 个里程碑之一，时间跨度从 1950 年到 SI 构建 SI。