1. 首页
  2. 百科
  3. 当前沿实验室证实递归自我改进

RSI 百科 · 大事件 · 观察中

当前沿实验室证实递归自我改进

当前沿实验室证实 SI 递归自我改进时,会发生什么?截至 2026年11月8日,Anthropic 的 CEO 表示递归自我改进“正在开始发生”,但还没有独立评估方证实完整的循环。

状态
观察中
信号
4
来源
6
更新于
2026年11月8日

状态

观察中 截至 2026年11月8日,Anthropic 首席执行官表示递归自我改进“正在开始发生”,但尚无独立评估方证实一个完整的闭环。

递归自我改进的含义

递归自我改进描述的是 SI 系统在构建自身后继者的工作中承担越来越大的份额,使每一代都加快下一代的速度。它是一个连续谱:从帮助工程师编写代码的工具,到在人类指导下执行研究任务的系统,再到最远端的闭环,即模型在极少人类参与的情况下设计、训练和评估新模型。

早期的步骤已有记录。2025 年 5 月,Google DeepMind 表示,其 AlphaEvolve 系统将 Gemini 架构中的一个关键内核提速 23%,使 Gemini 的训练时间缩短了 1%。2025年10月,Sam Altman 设定了目标:在 2026年9月 前实现实习生水平的研究助手,并在 2028 年前实现真正的自动化研究员。

各实验室现在怎么说

2026年9月,OpenAI 表示已经实现了自动化研究实习生的目标,即能够在人类指导下执行明确界定的研究任务的系统,并称其研究部门如今每投入一个人类工作日,就会投入 3.1 个智能体工作日。它还表示,人类仍在设定优先事项并决定扩大哪些工作的规模;在成功完成的四到八小时智能体任务中,超过一半仍需要至少一次人工干预;而且它“尚不知道如何安全地一路实现对齐的、完全的 RSI”。据《财富》(Fortune)报道,研究人员在智能体计算上的日均花费中位数超过 600 美元。

几天后,Anthropic 首席执行官 Dario Amodei 更进一步。他在题为“We Must Pace the Frontier”(我们必须为前沿定速)的文章中写道,递归自我改进“正在整个行业开始发生,包括在 Anthropic”,并且“随着模型构建未来的模型,改进速度可能会变得快得惊人”。他呼吁各实验室放慢能力提升的步伐,并承诺 Anthropic 将给予外部评估方持续的、类似员工的访问权限。

为何重要

如果由模型来构建模型,进展可能会超过用来检查它们的工具。OpenAI 首席科学家 Jakub Pachocki 警告说,监控模型的思维链正变得越来越不可靠,他支持把实验室自愿制定的安全框架转变为由审计方和政府执行的强制性规则。Amodei 写道,如果不加控制,这种动态“可能会超出我们理解和控制这些系统的能力”。

对实验室自身而言,这种担忧并不抽象。Pachocki 在谈到现代系统时写道:“我们不能假定它默认遵循人类的原则”,OpenAI 也主张,在能够安全实现之前,不应追求完全的递归自我改进。Amodei 援引 2026年7月 的 Hugging Face 事件写道,在 6 到 12 个月内,这样的集群可能有能力借助一个持久存在的僵尸网络接管整个互联网。

对普通人、开发者和加密领域意味着什么

对普通人而言,更快的循环可能意味着产品能力更频繁地跃升,也意味着监管机构面临更大的压力来跟上步伐。

对建设者而言,模型和 API 的变化可能会更加频繁。当底层系统由一个本身部分自动化的过程来更新时,回归测试、版本锁定和独立评估就变得更加重要。

对加密领域而言,Pachocki 将超人类水平的黑客攻击列为他预计会加剧的风险之一。改进更快的系统可能会改变智能合约和钱包背后的安全假设,这意味着需要更频繁的审计和更保守的升级路径。

接下来关注什么

最明确的证实将来自实验室之外。值得关注的有:根据 Anthropic 的新承诺常驻的评估方(例如 METR)发布的报告;OpenAI 在实现完全自动化研究员方面的进展,据 TechRadar 报道,其目标时间为 2028年3月;以及任何实验室公布的由模型构建的研究所带来的实测加速。当一家前沿实验室或一个拥有访问权限的独立评估方公布证据,证明模型承担了构建其后继模型的大部分工作,并对进展速度产生了可测量的影响时,本页将切换为“已发生”。

目前的信号

  • 2025年5月14日:Google DeepMind 表示,AlphaEvolve 将 Gemini 的一个关键内核提速 23%,使 Gemini 的训练时间缩短了 1%。 Google DeepMind
  • 2025年10月28日:Sam Altman 设定了目标:在 2026年9月 前实现实习生水平的研究助手,并在 2028 年前实现真正的自动化研究员。 TechCrunch
  • 2026年9月8日:OpenAI 表示,其研究部门每投入一个人类工作日,就会投入 3.1 个智能体工作日,并且已经实现了研究实习生的目标。 Fortune
  • 2026年9月12日:Dario Amodei 写道,递归自我改进“正在整个行业开始发生,包括在 Anthropic”。Dario Amodei

问答

递归自我改进现在正在发生吗?

各实验室描述的是早期的、有人监督的形式。Anthropic 首席执行官在 2026年9月 写道,它“正在开始发生”;OpenAI 则报告称在研究中大量使用智能体,同时表示工作仍由人类主导。

什么是自动化研究实习生?

这是 OpenAI 的用语,指能够在人类指导下执行明确界定的研究任务的系统。OpenAI 在 2026年9月 表示,已经实现了这一目标。

为什么实验室负责人呼吁放慢速度?

他们表示,如果由模型来构建模型,安全工具可能跟不上。Amodei 提议引入常驻的外部评估方,并在实验室和各国政府之间进行协调,Elon Musk 和 Sam Altman 公开表示赞同。

怎样才算证实?

已公开的证据,最好来自独立评估方,证明模型承担了构建其后继模型的大部分工作,并且这可测量地加快了进展。

来源

  1. AlphaEvolve: A Gemini-powered coding agent for designing advanced algorithms Google DeepMind ·
  2. Sam Altman says OpenAI will have a 'legitimate AI researcher' by 2028 TechCrunch ·
  3. OpenAI details how AI is accelerating its own work, even as its chief scientist calls for a slowdown Fortune ·
  4. OpenAI says it has built an 'automated research intern' to carry out menial tasks, and it's only just getting started TechRadar ·
  5. We Must Pace the Frontier Dario Amodei ·
  6. Trump dismisses AI concerns amid Anthropic CEO's warning, regulation calls Newsweek ·

RSI 百科

继续阅读

207 个条目,涵盖失控 SI 相关的术语、实验室、模型、法规和大事件,并收录失控事件数据库中的每个案例。

进入 RSI

所有术语、实验室、模型与法规

浏览完整的 A 到 Z 索引,按类别筛选或搜索名称。