职位题库

AI基础设施工程师面试题库

面向AI基础设施工程师相关面试,围绕张量并行、模型并行、MoE、系统设计、推理优化等主题展开练习,结合题目考察点、回答思路、参考答案和常见误区,梳理知识要点并练习清晰表达。

39 道题目建议用时 117 分钟专项面试练习

全部题目 39 道题

37

你项目中的知识库是自建还是引用已有方案?请说明构建流程与关键取舍。

考察候选人对知识库构建全链路的理解,包括数据接入、切分、向量化、检索与更新维护。
38

请说明你使用TensorRT部署时用的卡型与数量,以及你如何理解集群部署与单机部署的差异。

考察候选人的实际部署经验边界,以及对集群部署关键问题(调度、通信、容错、监控)的认知。
39

请介绍你对KV cache的理解,以及KV cache卸载的常见方法。

考察候选人对推理显存瓶颈的理解,以及KV cache管理、卸载与调度策略的掌握程度。
返回面试题库