# 正交性论题：含义及其重要性

> 正交性论题认为，智能与目标相互独立，因此一个系统可能能力极强，却仍在追求人们难以认同的目标。附来源链接。

Source: https://enterrsi.si/zh/encyclopedia/orthogonality-thesis/
Updated: 2026-11-08

1. [首页](https://enterrsi.si/zh/)
2. [百科](https://enterrsi.si/zh/encyclopedia/)
3. 正交性论题

RSI 百科 · 术语

# 正交性论题

正交性论题认为，智能和目标彼此独立，因此一个系统可以极其强大，同时追求人们认为毫无意义或有害的目标。

类别
:   术语

又称
:   n/a

失控日志案例
:   0

使用该术语的法规
:   0

## 通俗解释

Nick Bostrom 在 2012 年提出了这一论题：原则上，几乎任何水平的智能都可以与几乎任何终极目标相结合。一个超级智能系统不会仅仅因为聪明就自动接受人类的价值观，正如一个强大的国际象棋引擎除了赢棋之外别无所求。智能描述的是一个智能体实现其目标的能力有多强，而不是它拥有哪些目标。

这一论题回应了一种常见的期望，即一台足够睿智的机器自然会是善良的。如果该论题成立，价值观就必须被刻意植入，而这一过程中的错误不会随着系统变得更聪明而自行纠正。批评者指出，以人类文本训练的系统在此过程中吸收了大量人类价值观，这可能使其在实践中更有可能拥有合理的目标。即便如此，大多数对齐研究者仍把正交性视为一个理由，要求对系统的目标加以验证，而不是想当然地假定。

## 对失控 SI 的意义

如果能力不会自带良好的价值观，那么每一次能力的跃升，也就是未对齐系统所能造成后果的一次跃升。失控SI正是这一论题所警示的那种组合。

这个术语

术语
:   正交性论题

又称
:   n/a

类别
:   术语

相关术语
:   4

相关术语

[工具性趋同 **术语**](https://enterrsi.si/zh/encyclopedia/instrumental-convergence/)[对齐 **术语**](https://enterrsi.si/zh/encyclopedia/alignment/)[回形针最大化器 **术语**](https://enterrsi.si/zh/encyclopedia/paperclip-maximizer/)[未对齐 **术语**](https://enterrsi.si/zh/encyclopedia/misalignment/)

引用本条目

“正交性论题”。RSI 百科，enterrsi.si，2026年11月8日。https://enterrsi.si/zh/encyclopedia/orthogonality-thesis/

可依据 CC BY 4.0 协议自由引用，请附上 enterrsi.si 链接。

RSI 百科

## 继续阅读

207 个条目，涵盖失控 SI 相关的术语、实验室、模型、法规和大事件，并收录失控事件数据库中的每个案例。

[上一个术语 开放权重模型](https://enterrsi.si/zh/encyclopedia/open-weight-model/)[下一个术语 外部测试](https://enterrsi.si/zh/encyclopedia/pre-deployment-testing/)

进入 RSI

## 所有术语、实验室、模型与法规

浏览完整的 A 到 Z 索引，按类别筛选或搜索名称。

[打开百科](https://enterrsi.si/zh/encyclopedia/)
[事件数据库](https://enterrsi.si/zh/incidents/)
[遏制评分榜](https://enterrsi.si/zh/containment-board/)