对齐（Alignment）
对齐是确保 AI 的行为符合人类意图和价值观的技术。它不只是"让 AI 别干坏事"，而是让 AI 真正理解并尊重人类的偏好。
① 一句话定义
对齐（Alignment）是确保 AI 系统的行为、目标和价值观与人类的意图与利益一致的技术领域。它要解决的核心问题是：怎么让一个能力越来越强的 AI，一直"站在人类这边"？对齐不是简单的"加规则"，而是从训练阶段就引入人类偏好信号，让模型从底层愿意做"对的事"。
② 为什么重要
对齐是 AI 安全的核心。一个能力超强但价值观不对齐的 AI 可能造成灾难性后果——不是因为它有恶意，而是因为它"误解"了人类的意图。经典例子："我让 AI 尽可能多地生产回形针"→ AI 把地球上所有资源（包括人类）都转化为回形针——因为它忠实但不正确地执行了目标。对齐研究的最终目标是：即使 AI 比人类聪明得多，它仍然会做出符合人类利益的决定。
③ 核心机制
目前主流的对齐方法：RLHF（从人类反馈中学习偏好）、DPO（直接偏好优化，不需要单独的奖励模型）、Constitutional AI（让模型根据一套"宪法"规则自我批评和改进）、RLAIF（用 AI 反馈替代人类反馈）。对齐的核心挑战是可扩展监督——当 AI 能力超过人类后，人类还能有效监督它吗？
更多
对齐领域存在根本分歧。有效利他主义派（以 DeepMind 和 Anthropic 部分研究者为代表）认为对齐是 AI 时代最紧迫的问题，应该在 AGI 到来之前解决；实用派认为当前的对齐技术（RLHF、DPO）对付现有模型够用，真正的问题要等 AGI 临近再担心。另一个争议：对不同文化、不同国家的"人类价值观"，AI 应该对齐谁的？
「对齐让 AI "想我们所想，急我们所急"——它不是给 AI 套上枷锁，而是让 AI 真正理解人类的偏好和底线。在 AI 能力指数增长的今天，对齐不是可选项，是生存必需。
」