Alignment

RL、偏好与“奖励”到底在奖励什么

从人类偏好反馈到 DPO，我想弄清优化目标与真实想要的行为之间会留下多大缝隙。