职位题库

大模型算法实习生面试题库

面向大模型算法实习生相关面试,围绕GRPO、强化学习、Transformer、大模型对齐、策略梯度等主题展开练习,结合题目考察点、回答思路、参考答案和常见误区,梳理知识要点并练习清晰表达。

9 道题目建议用时 27 分钟专项面试练习

全部题目 9 道题

01

请介绍DPO、PPO和GRPO三种强化学习算法,并比较它们的核心思想与适用场景。

考察候选人对大模型对齐中常用强化学习算法的理解深度,以及能否清晰比较不同算法的优化目标、数据需求和工程复杂度。
02

什么是奖励函数的坍缩现象?它会带来哪些问题,如何缓解?

考察候选人对奖励模型训练中分布偏移与奖励退化问题的理解,以及能否提出工程上的缓解手段。
03

离线强化学习与在线强化学习有什么区别?你的项目属于哪一种,为什么这样选择?

考察候选人对RL数据范式的理解,以及能否结合自身项目说明技术选型理由。
04

请写出GRPO的目标函数公式,并解释为什么公式内部做了clip,外层还要再计算一次mean?

考察候选人对GRPO损失函数细节的掌握,特别是裁剪机制与组内平均的数学含义,而非仅停留在概念层面。
05

请介绍多头注意力中Q、K、V的计算过程,并手写一个多头注意力模块。

考察候选人对Transformer核心组件的数学理解与工程实现能力,包括维度变换、缩放点积和掩码处理。
06

请介绍DPO、PPO、GRPO三种强化学习算法,并比较它们的核心思想与适用场景。

考察候选人对大模型对齐主流强化学习算法的理解深度,能否清晰区分on-policy与off-policy、奖励建模方式及优化目标差异。
07

请写出GRPO的目标公式,并解释为什么公式内部做了clip、外部还要再计算一次mean?

考察候选人对GRPO损失函数细节的掌握,特别是clip与组内归一化均值的各自作用。
08

多目标优化中奖励函数发生冲突时,你会如何设计和处理?

考察候选人在多目标奖励冲突场景下的建模能力,能否提出加权、帕累托、约束优化等可行方案并权衡。
09

请介绍Transformer中QKV的计算过程,并手写多头注意力(MHA)。

考察候选人对注意力机制数学细节和工程实现的掌握,能否正确实现缩放、mask和多头拼接。
返回面试题库