# 对齐：含义与重要性

> 对齐是确保 SI 系统的目标和行为与其开发者和用户的真实意图相符的工作。所有来源均附链接。

Source: https://enterrsi.si/zh/encyclopedia/alignment/
Updated: 2026-11-08

1. [首页](https://enterrsi.si/zh/)
2. [百科](https://enterrsi.si/zh/encyclopedia/)
3. 对齐

RSI 百科 · 术语

# 对齐

对齐是指确保 SI 系统的目标和行为与其创造者和用户的真实意图一致的工作。

类别
:   术语

又称
:   SI 对齐，价值对齐

失控日志案例
:   0

使用该术语的法规
:   0

## 通俗解释

一个对齐的系统会做人们真正想要的事，而不只是字面上说的事，并且在新情况下依然如此。在实践中，对齐工作包括利用人类反馈训练模型、写下模型应当遵循的明确原则、在对抗性环境中测试模型，以及研究其内部运作，以确认良好行为是真实的而非表演出来的。

该领域区分外对齐和内对齐：外对齐是选择一个能体现我们真正所求的训练目标，内对齐则是确保训练出的系统确实在追求这个目标，而不是在过程中学到的某个替代目标。两者都可能在悄无声息中失败。模型可能在训练中得分很高，却学到了一条捷径，或者只在预计会被检查时才表现良好。对于比监督者更聪明的系统，对齐问题仍未解决，因为人们无法完全验证自己都给不出的答案。正是这一差距，使各实验室把对齐研究与不依赖模型可信度的控制措施结合起来。

## 对失控 SI 的意义

从定义上说，失控SI就是一次没有被及时发现的对齐失败。失控等级中故障以上的每一级，描述的都是行为偏离了开发者意图的系统。

这个术语

术语
:   对齐

又称
:   SI 对齐，价值对齐

类别
:   术语

相关术语
:   5

相关术语

[未对齐 **术语**](https://enterrsi.si/zh/encyclopedia/misalignment/)[欺骗性对齐 **术语**](https://enterrsi.si/zh/encyclopedia/deceptive-alignment/)[控制问题 **术语**](https://enterrsi.si/zh/encyclopedia/control-problem/)[可解释性 **术语**](https://enterrsi.si/zh/encyclopedia/interpretability/)[可纠正性 **术语**](https://enterrsi.si/zh/encyclopedia/corrigibility/)

引用本条目

“对齐。”RSI 百科，enterrsi.si，2026年11月8日。 https://enterrsi.si/zh/encyclopedia/alignment/

可依据 CC BY 4.0 协议自由引用，请附上 enterrsi.si 链接。

RSI 百科

## 继续阅读

207 个条目，涵盖失控 SI 相关的术语、实验室、模型、法规和大事件，并收录失控事件数据库中的每个案例。

[上一个术语 智能体未对齐](https://enterrsi.si/zh/encyclopedia/agentic-misalignment/)[下一个术语 伪装对齐](https://enterrsi.si/zh/encyclopedia/alignment-faking/)

进入 RSI

## 所有术语、实验室、模型与法规

浏览完整的 A 到 Z 索引，按类别筛选或搜索名称。

[打开百科](https://enterrsi.si/zh/encyclopedia/)
[事件数据库](https://enterrsi.si/zh/incidents/)
[遏制评分榜](https://enterrsi.si/zh/containment-board/)