数据处理架构师-AI Data
字节跳动
岗位职责
1、负责大模型预训练数据处理过程的高频算子与批处理链路的性能优化,覆盖内容理解、模型打标、数据清洗、格式转换等场景,提升数据处理任务的吞吐、稳定性和资源利用率;
2、面向数据处理平台建设可复用的优化能力,围绕GPU推理、CPU计算、批处理并发、资源撮合、执行计划、任务调度等关键环节,推进Profiling、Benchmark、瓶颈定位和持续优化;
3、探索并落地模型类算子的推理加速和优化方案,建立效果、成本、吞吐、稳定性的评估体系,在保证数据处理效果的前提下降低推理成本。
任职要求
1、本科及以上学历,计算机/人工智能/软件工程/电子工程等相关专业,具备扎实的编程基础,熟练掌握Python/C++/Go/Rust等至少一种语言;
2、具备较强的性能分析和收益量化能力,能够用明确指标评估优化收益;理解大模型推理和数据处理任务的基本流程,熟悉模型部署与优化工具链,具备模型推理、离线批处理或高性能计算相关经验;
3、具备良好的工程落地意识,能将优化经验沉淀为工具、文档或平台能力,能够与算法、产品、Infra等团队协同推进复杂问题解决;
4、具备以下至少一个方向的深入经验:模型推理加速方向:熟悉GPU推理优化、CUDA/TensorRT-LLM/vLLM/SGLang等技术,能定位显存、吞吐、并发、调度、通信等性能瓶颈并完成优化;
5、量化与蒸馏方向:熟悉量化、蒸馏、剪枝、小模型替换或模型压缩方法,能设计效果/成本Tradeoff评估方案,并推动优化方案应用到生产环境;
6、CPU/离线计算加速方向:熟悉Spark、Ray、Flink等分布式计算框架,具备Profiling、数据倾斜治理、I/O优化、并发调优、shuffle优化和吞吐优化经验。
加分项
1、有大模型预训练数据处理、批量推理、离线模型推理等生产链路优化经验者优先;
2、有推理框架/推理性能优化生产落地经验者/有量化、蒸馏、剪枝、小模型替换等模型压缩方案落地经验,并能完整说明效果、成本、吞吐和稳定性收益者优先;
3、有复杂离线任务Profiling、性能基线建设、资源规格治理、算子平台化或大规模任务稳定性治理经验者优先。