职位题库

推荐大模型算法工程师面试题库

面向推荐大模型算法工程师相关面试,围绕Transformer、归一化、网络结构、训练稳定性、数值稳定性等主题展开练习,结合题目考察点、回答思路、参考答案和常见误区,梳理知识要点并练习清晰表达。

7 道题目建议用时 21 分钟专项面试练习

全部题目 7 道题

01

请简要介绍你的论文项目,并说明核心贡献与实验设计。

考察候选人能否清晰提炼研究问题、方法创新与实验验证逻辑,判断其科研深度与表达结构。
02

Pre-Norm 和 Post-Norm 有什么区别?各自对深层Transformer训练有何影响?

考察对残差连接与归一化位置如何影响梯度传播和训练稳定性的理解。
03

请简要介绍你的论文项目,重点说明研究问题、方法设计和你个人的贡献。

考察候选人能否清晰概括研究动机、技术路线与个人贡献,判断项目真实性和研究深度。
04

BatchNorm 和 LayerNorm 有哪些区别?为什么 Transformer 通常使用 LayerNorm?

考察对归一化维度、训练/推理行为、batch依赖性和序列建模适配性的理解。
05

Transformer 中如果把 LayerNorm 换成 BatchNorm,为什么训练和推理结果可能不一致?

考察能否把归一化统计量、batch依赖和自回归推理结合起来分析数值行为。
06

Softmax 发生数值溢出时该如何处理?请说明原理和工程实现。

考察对指数运算溢出、减最大值技巧和log-sum-exp稳定实现的理解。
07

Pre-Norm 和 Post-Norm 有什么区别?各自对训练稳定性和表达能力有什么影响?

考察对残差连接与归一化位置关系的理解,以及深层Transformer训练权衡。
返回面试题库