职位题库

AI研究算法工程师-大模型推理Infra方向面试题库

面向AI研究算法工程师-大模型推理Infra方向相关面试,围绕推理框架、岗位意愿、稳定性、职业规划、AI Coding等主题展开练习,结合题目考察点、回答思路、参考答案和常见误区,梳理知识要点并练习清晰表达。

7 道题目建议用时 21 分钟专项面试练习

全部题目 7 道题

01

请介绍你与AI Infra最相关的项目或实习经历,重点说明你具体做了哪些工程工作、遇到什么瓶颈、如何定位和解决。

核实简历中Infra经历的真实性与深度,判断候选人是否具备环境适配、OOM排查、压测调优、Profiling等工程侧实战体感。
02

谈谈你对原生算力与异构算力实践的理解,以及开源推理框架适配国产算力时的主要工程难点。

考察候选人对CUDA生态与异构算力差异的认知深度,是否理解算子覆盖、图编译、通信与内存一致性等真实适配难点。
03

vLLM的PagedAttention和Continuous Batching分别解决什么瓶颈?SGLang的RadixAttention与vLLM的prefix caching是什么关系?

考察对主流推理框架核心机制的理解,能否讲清显存管理、调度粒度与前缀复用的设计动机和差异。
04

推理时的瓶颈主要在哪?内存瓶颈和计算瓶颈如何定位?如果让你设计一次优化实验,你会怎么做?

考察候选人对Prefill/Decode阶段特性的理解,以及用数据驱动方式设计优化实验的能力。
05

从资源管理角度,弹性扩缩容和GPU池化通常有哪些策略?推理场景下扩缩容的关键指标和难点是什么?

考察候选人对隔离性与利用率权衡、推理冷启动特性以及调度指标选择的理解。
06

团队很看重AI Coding,你怎么看它在Infra场景里的价值?结合你的经验谈谈实际落点。

考察候选人对AI辅助工程工具的实际使用意识和落地能力,以及是否具备快速啃开源代码、快速排障的生产力。
07

你个人兴趣是不是更偏向AI产品?底层引擎和上层规模化API服务,你觉得哪个和你更契合?

考察候选人的岗位稳定性与职业定位,判断其是否真正愿意沉在底层做适配、测试、压测等基础工作。
返回面试题库