端侧大模型训练/推理优化工程师实习生(A258612)
250-400/天
端侧大模型训练/推理优化工程师实习生(A258612) 250-400/天
深圳
硕士
5天/周
3个月
发布于 7月11日
职位描述
PythonC++人工智能机器人硬件
职责描述: 1. 参与预研大模型服务端量化感知训练算法 2. 参与预研业界领先的量化方法(PTQ/QAT)、大模型端侧推理加速技术 3. 协助分析和解决在异构硬件上训练/推理时遇到的技术难题 任职要求: 1. 硕士及以上学历,人工智能、计算机科学、电子、信息工程、机器人等专业 2. 熟练使用C++/python 3. 对大模型加速优化方案有深入了解,对投机采样,GQA,MOE,Lora量化等技术有开发与优化经验者优先 4. 有TFlite (Micro),NCNN,MNN,SNPE/QNN,EAI,NeuroPilot等移动端深度学习框架开发经验者优先 5. 熟悉1/4/8bit量化,掌握蒸馏、剪枝、NAS等模型优化手段 6. 熟悉CPU/DSP/GPU等硬件平台的算子加速
工作地址
广东省/深圳市/南山区
相似职位推荐