01 请介绍DPO、PPO和GRPO三种强化学习算法,并比较它们的核心思想与适用场景。考察候选人对大模型对齐中常用强化学习算法的理解深度,以及能否清晰比较不同算法的优化目标、数据需求和工程复杂度。 查看学习思路
04 请写出GRPO的目标函数公式,并解释为什么公式内部做了clip,外层还要再计算一次mean?考察候选人对GRPO损失函数细节的掌握,特别是裁剪机制与组内平均的数学含义,而非仅停留在概念层面。 查看学习思路
06 请介绍DPO、PPO、GRPO三种强化学习算法,并比较它们的核心思想与适用场景。考察候选人对大模型对齐主流强化学习算法的理解深度,能否清晰区分on-policy与off-policy、奖励建模方式及优化目标差异。 查看学习思路