电商场景LLM/VLM/AIGC推理工程师-TikTok Shop
字节跳动
北京校招字节跳动社会招聘（社招）
岗位职责
1、设计实现电商场景通用的大模型推理引擎，适用于在线实时推理和近离线批量推理等多个场景，并推广到电商各个场景中应用；
2、针对电商LLM/MLLM/AIGC等多种模型，进行针对性的推理性能优化，解决系统高并发、高可靠性、高可扩展性等技术难关；
3、面向全球多地域大规模GPU算力集群，通过弹性调度、GPU超卖、任务编排等方式不断提升算力利用率；
4、与算法部门深度合作，进行算法与系统的联合优化。
任职要求
1、本科及以上学历，计算机、软件工程、人工智能等相关专业优先，熟练掌握Linux环境下的C/C++与Python语言；
2、熟练掌握至少一种机器学习框架（TensorFlow/PyTorch/MxNet或其他自研框架）；
3、熟悉LLM/VLM/SD/Dit等主流深度学习模型，并有实际模型推理优化经验，比如蒸馏能力；
4、熟练掌握常用的大模型推理引擎，如vLLM/SGLang/TRT-LLM等，了解原理；
5、有以下至少一项的背景知识与经验：GPU编程，编译器，高性能网络，分布式存储，集群调度；
6、具有独立解决问题的能力，良好的团队合作精神，有强烈的工作责任心，较好的学习能力、沟通能力和自驱力。
加分项：
1、理解GPU硬件架构，理解GPU软件栈（CUDA、cuDNN)，具备GPU性能分析的经验；
2、有软硬件联合设计的经验；
3、深入研究过至少一种机器学习框架（TensorFlow/PyTorch/MxNet或其他自研框架）的底层架构和机制。