1. 首页
  2. 百科
  3. 当一个国家禁止或暂停前沿超级智能

RSI 百科 · 大事件 · 观察中

当一个国家禁止或暂停前沿超级智能

如果一个国家禁止或暂停前沿超级智能开发,会发生什么?截至 2026年11月8日,还没有任何国家政府颁布禁令或暂停令。英国的一项禁令法案定于 2026年11月13日 进行二读。

状态
观察中
信号
5
来源
7
更新于
2026年11月8日

状态

观察中 截至 2026年11月8日,还没有任何国家政府颁布禁令或暂停令。英国的一项禁令法案定于 2026年11月13日进行二读。

禁令或暂停意味着什么

禁止和暂停是不同的工具。禁止是指禁止构建超过某条明确界线的系统。暂停则是在一段时间内停止前沿开发,通常持续到规则或安全测试出台为止。2026 年提出的两项法案结合了这两种思路。美国的 Ban Artificial Superintelligence Act(禁止人工超级智能法案)由参议员 Bernie Sanders 和众议员 Greg Casar 于 2026年9月23日提出,将禁止人工超级智能,在新设立的内阁级人工智能部(Department of Artificial Intelligence)制定规则和审查程序之前暂停高级开发,并指示美国寻求国际协议和出口管制。英国的法案由工党议员 Alex Sobel 于 9 月 8 日提出,将禁止开发、部署和运行此类系统,并以它们能否规避或压制相关人类权威来界定这类系统。

此前有一个范围有限的先例。2023年3月31日,意大利数据保护机构出于隐私方面的担忧暂时封锁了 ChatGPT,大约一个月后,在 OpenAI 满足其要求之后,服务恢复。那是针对单一产品的行动,而不是对开发的禁令,但它表明国家监管机构可以迅速切断访问。

为何重要

支持者把一国禁令视为迈向全球禁令的第一步。Future of Life Institute(生命未来研究所)2025年10月22日的声明呼吁禁止开发超级智能,并且在科学界广泛认同可以安全、可控地开发,以及获得公众的有力支持之前,不得解除禁令。2026年11月,其网站列出的签名已超过 78,000 个。

批评者,甚至一些支持者,都指出了局限性。据 The Next Web 报道,Sobel 称他的法案是一部范围有限的国内法,本身无法应对在国外构建的系统。Al Jazeera(半岛电视台)报道称,前 Google DeepMind 研究员 Alex Turner 称美国的法案很有勇气,但“不太可能获得通过”。单个国家独自行动,可能会使前沿研究转移到其他司法管辖区,这也是两项法案都指向国际协调的原因。

定义本身同样存在争议。美国的法案还涵盖有足够能力毁灭人类或剥夺人类权力的系统,包括通过推翻联邦政府的方式。Turner 警告说,一个以达到或超过人类认知表现为依据的更宽泛标准,可能会把现有系统也囊括进来,并表示他更倾向于与剥夺人类权力挂钩的更窄标准。

对普通人、开发者和加密领域意味着什么

对普通人而言,迄今提出的法案针对的是能力最强系统的开发。现有应用会受到怎样的对待,取决于监管机构尚待制定的定义,因此日常服务可能受到影响,也可能不受影响。

对开发者而言,禁令或暂停最有可能通过阈值、许可和监控来实施。美国的法案为禁令配套了严厉的处罚:据 Al Jazeera 报道,违规者最高可被判处 20 年监禁,公司资产也可能被没收。接近前沿的团队需要关注界线划在哪里,是依据能力测试、算力,还是两者兼有。

对加密领域而言,悬而未决的问题包括:去中心化算力网络或开放模型权重的共享是否算作开发,以及针对计算硬件的出口管制是否会延伸到节点运营者。目前的法案都没有直接回答这些问题。

接下来关注什么

最近的日期是英国法案的二读,定于 2026年11月13日。TIME 指出,十分钟规则法案很少能在一读之后继续推进,英国政府也已表示不支持这项法案。在美国,H.R. 10538 已于 2026年9月24日在众议院提出。还值得关注的是:是否会有较小的国家率先行动,是否会出现通过监管而非立法实施的暂停,以及是否会有实验室在政府压力下暂停。当某个国家政府颁布具有约束力的前沿 SI 开发禁令或暂停令时,本页状态将切换为“已发生”。

目前的信号

  • 2025年10月22日:Future of Life Institute 发布了一份《Statement on Superintelligence》(超级智能声明),呼吁在科学界形成广泛共识并获得公众有力支持之前,禁止开发超级智能。 Future of Life Institute
  • 2026年9月8日:工党议员 Alex Sobel 在下议院提出一项禁止人工超级智能的法案,TIME 称这是 G7 各国议会中的首个此类法案。 TIME
  • 2026年9月15日:70 多名英国下议院议员和上议院议员请首相支持该法案;政府表示不支持。 The Next Web
  • 2026年9月23日:参议员 Bernie Sanders 和众议员 Greg Casar 提出一项美国法案,要求禁止人工超级智能,并在新设立的联邦部门制定规则之前暂停高级开发。Office of Senator Bernie Sanders
  • 2026年9月24日:众议院版本 H.R. 10538 已经提出,正在等待审议。 Digital Policy Alert

问答

是否已有国家禁止超级智能?

没有。截至 2026年11月8日,还没有任何国家政府颁布禁止或暂停前沿 SI 开发的法律。美国国会和英国下议院均有相关法案待审。

美国的 Ban Artificial Superintelligence Act 会带来什么?

据 Sanders 参议员办公室介绍,该法案将禁止人工超级智能,在新设立的人工智能部(Department of Artificial Intelligence)制定规则之前暂停高级开发,并指示美国寻求国际协议和出口管制。

暂停和禁止是一回事吗?

不是。暂停是在一段时间内叫停前沿开发,通常持续到安全规则出台为止。禁止则是在法律改变之前,禁止超过某条明确界线的系统。

意大利禁止过 ChatGPT 吗?

意大利数据保护机构于 2023年3月31日出于隐私方面的担忧暂时封锁了 ChatGPT。大约一个月后,在 OpenAI 满足了该机构的要求之后,服务得以恢复。

来源

  1. Statement on Superintelligence Future of Life Institute ·
  2. The Growing Push to Ban Superintelligent AI TIME ·
  3. More than 70 UK lawmakers ask Burnham to back a superintelligence ban The Next Web ·
  4. Sanders, Casar Introduce Legislation to Create New Federal Agency to Ban Artificial Superintelligence, Pause Advanced AI Development Office of Senator Bernie Sanders ·
  5. Ban Artificial Superintelligence Act of 2026 (HB 10538) introduced to the House of Representatives Digital Policy Alert ·
  6. US lawmakers propose sweeping AI restrictions with superintelligence ban Al Jazeera ·
  7. ChatGPT is Back in Italy After Addressing Data Privacy Concerns The Hacker News ·

RSI 百科

继续阅读

207 个条目,涵盖失控 SI 相关的术语、实验室、模型、法规和大事件,并收录失控事件数据库中的每个案例。

进入 RSI

所有术语、实验室、模型与法规

浏览完整的 A 到 Z 索引,按类别筛选或搜索名称。