AI Infra高级工程师
华为
岗位职责
负责大模型(LLM/多模态/推荐/强化学习)从训练到推理的全链路性能优化、算法创新与生态落地。通过软硬协同设计、编译优化、分布式加速及量化压缩等关键技术,构筑昇腾芯片在AI Infra层面的核心竞争力,并深度参与开源社区,提升技术影响力。
1、负责业界主流LLM/多模态模型在昇腾芯片上的预训练、微调及推理全流程优化,主导低精度训练(FP8/FP4)、长序列(M级)推理等关键技术在昇腾平台的落地,构建高吞吐、低时延的训推核心竞争力。
2、深刻理解芯片硬件架构(存储层次、计算单元、片上互联),跟踪FlashAttention、稀疏化等前沿算子思路,负责Matmul、Attention等关键算子的理论分析、算法设计与工程实现,通过软硬协同实现算力峰值突破。
3、主导昇腾在vLLM、SGLang、Triton、LLaMA-Factory等主流开源框架的原生支持与竞争力构建;积极贡献开源社区,提升昇腾在AI Infra领域的技术影响力,同时推动场景化解决方案的商业落地与客户成功。
任职要求
技能要求:
1、掌握基本的预训练模型的原理、分布式训练、推理及微调技术等,并掌握相关实现及优化方案,有模型训练、推理应用经验者优先;
2、有容器应用开发、分布式作业性能优化、集合通信性能评估优化经历者优先;
3、拥有开发者社区规划、运营经验者优先;有与高校、科研学术机构或教育培训机构合作经验者优先;
知识要求:
1、计算机和电子工程等相关专业;
2、良好的软件编程能力(C/C++,python);
3、熟悉计算机体系结构,流水线结构。