机器学习系统研发工程师-Ads Infra
字节跳动
岗位职责
1、针对广告/推荐/搜索等场景,优化模型训练/推理的计算图执行效率;
2、通过编译优化、模型并行优化、图融合、高性能算子开发、低精度计算、Memory复用、Cache优化、高并发服务请求优化等技术,打造业界领先的高性能训推引擎;
3、设计和开发高性能算子库,研究最新的GPU计算技术和优化方法,以充分利用GPU/NPU的并行计算能力,支持各种机器学习和深度学习模型的构建和部署;
4、负责机器学习系统前瞻技术的调研和引入,例如最新硬件架构、异构计算系统、GPU优化技术、编译优化技术的引入和落地。
任职要求
1、本科及以上学历,计算机等相关专业,具备扎实的计算机基础;
2、熟悉Linux操作系统和开发环境,熟练掌握C/C++/Python等一种或多种编程语言并深入了解语言特性,具备良好的数据结构、算法基础和系统设计能力;
3、拥有强烈的求知欲、优秀的学习和沟通能力;
4、熟悉至少一种机器学习框架(PyTorch/TensorFlow/PaddlePaddle或其他自研框架),熟练掌握分布式系统原理,参与过分布式系统的设计、开发和维护。
加分项:
1、熟悉主流高性能并行编程技术,有GPU编程经验(CUDA或Triton);
2、有TensorRT/CUTLASS开发经验,熟悉TRT-LLM、vLLM等推理框架;
3、熟悉开源ML编译器代码(XLA/MLIR/TVM)并有相关开发经验;
4、熟悉PyTorch、FSDP、DeepSpeed、Megatron等业界主流分布框架的使用和原理。