1. 首页
  2. 时间线

时间线 · 1950 至 2026

走向 RSI

1965 年的一则警告如何成为 2026 年的新闻头条。20 个让失控超级智能进入公众视野的关键时刻，每一个都标注日期并链接到来源。

关键时刻
20
跨度
76 年
时代
4
最新
2026年11月

四个时代

从思想实验到政策

起源、理论、警告和 RSI 之年。关键时刻之间的间隔越来越短。

时代 01

起源

4 个关键时刻

  1. 机器能思考吗？

    Alan Turing 发表《Computing Machinery and Intelligence》（计算机器与智能），提出模仿游戏，这是第一个针对机器心智的严肃测试。

    来源 · Mind，1950

  2. 这个领域有了名字

    达特茅斯夏季研讨会为这一领域命名为“artificial intelligence”（人工智能），美国在 2026 年以 Super Intelligence 取代了这一术语。

    来源 · Dartmouth

  3. 智能爆炸

    I. J. Good 写道，一台超智能机器能够设计出更好的机器，而第一台这样的机器可能是我们需要的最后一项发明，前提是它足够温顺，愿意告诉我们如何控制它。

    来源 · 背景资料

  4. 奇点

    Vernor Vinge 预言超人类智能将在 30 年内出现，并质疑这样的事件究竟能否被引导。

    来源 · Vinge，1993
时代 02

理论

4 个关键时刻

  1. 回形针最大化器

    Nick Bostrom 阐明，超级智能追求的一个无害目标（比如制造回形针）仍可能以灾难告终。

    来源 · Bostrom，2003

  2. Superintelligence（超级智能）一书

    Bostrom 的《Superintelligence: Paths, Dangers, Strategies》（超级智能：路径、危险与策略）将控制问题带到了总统、创业者和公众面前。

    来源 · Oxford University Press

  3. 第一封公开信

    数千名研究者签署 Future of Life Institute 的公开信，阐述安全且有益系统的研究优先事项。

    来源 · Future of Life Institute

  4. 阿西洛马原则

    23 条原则，其中包括：高度自主的系统应当被设计成其目标始终与人类价值观保持一致。

    来源 · Future of Life Institute
时代 03

警告

6 个关键时刻

  1. 暂停公开信

    一封公开信呼吁暂停训练比 GPT-4 更强大的系统六个月。

    来源 · Future of Life Institute

  2. 关于灭绝的一句话

    实验室负责人与研究者签署一句话声明：降低这项技术带来的灭绝风险，应当与大流行病和核战争一样成为全球优先事项。

    来源 · Center for AI Safety

  3. 布莱切利园

    首届全球前沿安全峰会。28 个国家和欧盟签署 Bletchley Declaration（布莱切利宣言）。

    来源 · 英国政府

  4. 以它命名的公司

    Ilya Sutskever 联合创立 Safe Superintelligence Inc.，目标只有一个：安全的超级智能。

    来源 · SSI

  5. 国际报告

    Yoshua Bengio 牵头完成首份 International AI Safety Report（国际人工智能安全报告），由 30 个国家提名的专家共同撰写。

    来源 · 英国政府

  6. 超级智能声明

    研究者、宗教领袖、艺术家和公众人物呼吁禁止开发超级智能，直到能够安全、可控地实现，并获得广泛的公众支持。

    来源 · Statement on Superintelligence
时代 04

RSI 之年

6 个关键时刻

  1. “应该有”

    在被问及 SI 是否需要保障措施或终止开关时，Trump 总统表示“应该有”。

    来源 · Future of Life Institute

  2. 警告广泛传播

    一名 Anthropic 研究员因灭绝风险辞职，并称递归自我改进是最主要的担忧。他的帖子浏览量超过 1.7 亿，数天后多家实验室负责人呼吁放缓脚步。

    来源 · Center for AI Safety

  3. 联合国介入

    由芬兰和挪威牵头的 22 个国家通过一项宣言，主张 SI 必须始终处于人类控制之下，实验室负责人向安理会作简报。

    来源 · Future of Life Institute

  4. 呼吁限制 RSI

    Future of Life Institute 敦促各国政府推动企业立即限制递归自我改进，直到确保其安全的研究完成为止。

    来源 · Future of Life Institute

  5. Super Intelligence 成为官方用语

    一项行政令将 Super Intelligence 定为联邦官方用语，OpenAI、Anthropic、Google、Meta、xAI 和 Nvidia 签署 White House Accord on Super Intelligence（白宫超级智能协议）。

    来源 · Federal Register

  6. SI 构建 SI

    METR 报告称，Anthropic 正在用 SI 构建更强大的 SI，其模型的改进速度约为一年前的两倍。

    来源 · The Verge

进入 RSI

下一个条目正在书写

关注实时动态和主流指数，看看接下来会有什么加入时间线。

打开实时动态 RSI 观察 加入 Telegram关注 @enterrsi