腾讯视频云大模型推理加速工程师

腾讯

岗位职责

1.核心攻坚多模态模型加速:聚焦图片/视频的编辑、生成类模型加速,主导深度学习云端推理引擎的核心开发与推理效率优化,实现各相关AI算法的高质量落地; 2.蒸馏技术融合应用:结合生成类模型特性,将模型蒸馏技术(如DMD、CM等)融入推理引擎优化方案,在保证质量的前提下,进一步降低推理延迟。

任职要求

1.熟练掌握C/C++, python语言,熟悉CPU/GPU异构开发,深入理解CUDA编程模型,能独立完成生成类模型的推理加速或性能调优项目; 2.具备 TensorRT/TensorRT-LLM/FasterTransformer/vllm/sglang 等推理引擎深度实践经验,主导过基于上述引擎的大模型推理系统定制化开发与性能调优;精通推理引擎底层优化技术(算子融合、量化策略、动态批处理、KV 缓存优化); 3.熟悉生成类模型的核心架构(如扩散模型Dit结构),熟悉推理过程中的关键性能卡点; 4.熟悉CPU/GPU异构加速瓶颈分析方法,有服务器端 AI 芯片、GPU加速经验优先。
岗位信息来源于公开招聘渠道,仅作信息聚合展示。收录于 2026/11/14岗位编号 tencent_social-2118266928710729728