大模型推理性能优化工程师

1.负责开发和优化TTS，LLM，VLM等大模型推理引擎； 2.与大模型算法同学深度合作，联合优化，打造行业领先的高性能推理引擎； 3.跟进机器学习前沿技术，将合适成果落地于实际应用。

1.精通TensorFlow、PyTorch等主流深度学习框架，具备扎实的模型训练、调优及线上部署实践经验； 2.精通C/C++，精通常用数据结构与算法； 3.熟练掌握高性能计算优化技术，深入理解计算机体系结构，熟悉并行计算优化、访存优化，低比特计算等； 4.熟悉大模型推理框架（如vLLM/SGLang/TRT-LLM等），有推理优化经验者优先； 5.优秀的分析问题和解决问题的能力，对解决具有挑战性的问题充满激情； 6.责任心强，良好的业务意识，团队合作能力和沟通协调能力。