01 请介绍你与AI Infra最相关的项目或实习经历,重点说明你具体做了哪些工程工作、遇到什么瓶颈、如何定位和解决。核实简历中Infra经历的真实性与深度,判断候选人是否具备环境适配、OOM排查、压测调优、Profiling等工程侧实战体感。 查看学习思路
02 谈谈你对原生算力与异构算力实践的理解,以及开源推理框架适配国产算力时的主要工程难点。考察候选人对CUDA生态与异构算力差异的认知深度,是否理解算子覆盖、图编译、通信与内存一致性等真实适配难点。 查看学习思路
03 vLLM的PagedAttention和Continuous Batching分别解决什么瓶颈?SGLang的RadixAttention与vLLM的prefix caching是什么关系?考察对主流推理框架核心机制的理解,能否讲清显存管理、调度粒度与前缀复用的设计动机和差异。 查看学习思路
04 推理时的瓶颈主要在哪?内存瓶颈和计算瓶颈如何定位?如果让你设计一次优化实验,你会怎么做?考察候选人对Prefill/Decode阶段特性的理解,以及用数据驱动方式设计优化实验的能力。 查看学习思路
06 团队很看重AI Coding,你怎么看它在Infra场景里的价值?结合你的经验谈谈实际落点。考察候选人对AI辅助工程工具的实际使用意识和落地能力,以及是否具备快速啃开源代码、快速排障的生产力。 查看学习思路