AI异构计算优化专家-火山方舟

字节跳动

北京校招字节跳动校园招聘校招应届

岗位职责

1、评估:负责评估符合业务要求的异构计算芯片,建立/完善评估体系、负载模型,预估业务收益; 2、推理与训练优化: 1)负责异构计算芯片落地实际推理业务,适配异构计算芯片特性,降低推理时延,提高推理吞吐; 2)负责异构计算芯片落地实际训练业务,根据芯片计算、通信特性,优化显存占用,提高训练吞吐; 3、算子开发:负责开发异构计算芯片的高性能算子,根据芯片特性,优化算力、带宽利用率; 4、编译技术应用:负责通过编译技术实现异构计算芯片在不同业务场景中落地,负责实现更加高效的异构硬件编程范式; 5、前沿技术调研:负责调研、验证前沿软硬件结合方向,比如稀疏计算(Sparse Computation)、存内计算(In-Memory Computing)、数据流计算(DataFlow)等。

任职要求

1、熟练掌握Linux环境下的C/C++、Python语言; 2、具备扎实的计算机科学功底和编程能力,熟悉常见算法和数据结构,具有良好的编程习惯; 3、能够熟练使用至少一种主流的机器学习框架(TensorFlow/PyTorch等),熟悉框架内部实现; 4、熟悉至少一种经典深度学习模型及其应用场景,如GPT、SD、DiT、W&D等; 5、熟悉至少一种并行计算架构,熟悉其编程模型,并知晓其优、劣所在; 6、有良好的工作文档习惯,及时按要求撰写更新工作流程及技术文档。 加分项: 1、了解昇腾、寒武纪等推理/训练/通信相关优化,有高性能算子、大规模训练、通算融合领域经验者优先; 2、了解SIMD/SIMT外其他并行计算模型及算法,了解其并行编程模型及其优、缺点者优先; 3、了解模型剪枝、量化、LLM投机采样等优化方法原理,具备相关模型优化经验者优先; 4、了解常见AI编译器方案及其优、缺点(如XLA、TVM、MLIR),有实际开发经验者优先; 5、了解GPU硬件架构,了解GPU软件栈(CUDA、cuBLAS、CUTLASS),具备GPU性能分析的能力者优先; 6、了解AI Compiler技术栈(MLIR等),熟悉Torch2.0+编译栈、Triton优先者优先。
岗位信息来源于公开招聘渠道,仅作信息聚合展示。
AI异构计算优化专家-火山方舟 - 字节跳动 | 好简历招聘岗位库