通俗解释
AGI 描述的是广度,而不是纯粹的能力强弱:它指的是一个能够像能干的人那样学习新任务、迁移所学知识并跨领域工作的系统,而不是只在某一项狭窄的工作上表现出色。目前没有公认的检验标准。一些研究人员看重系统在综合性考试和基准测试中的表现,另一些人则看它能否完成大多数有偿的远程工作、主持一个研究项目,或在无人协助的情况下连续运行数周。
由于定义宽泛,关于 AGI 已经到来的说法都存在争议,一些实验室还发布了自己的等级划分或里程碑。预测平台密切追踪其预期实现日期,本站的 RSI 时钟也把关于 SI 时间线的公开预测作为输入之一。许多研究人员预计,从 AGI 到超级智能的间隔会很短,因为能够做研究的系统也能加速 SI 研究本身。
对失控 SI 的意义
AGI 是递归自我改进变得可信的节点。一个能够做研究的通用系统可以开始改进它的后继者,这是从可控系统走向失控系统最快的路径。