大模型训练/推理框架工程师
DeepSeek
岗位职责
】
1.建设分布式训练推理系统,包括模型并行、长上下文、MoE、低精度训推等。
2.建设 RL 训练系统,包括异步 RL、Agent RL、OPD 等。
3.建设多模态训练系统,包括模型结构搭建、性能显存优化、数据读取加速等。
4.设计和开发大规模推理服务的 KV Cache 磁盘缓存、负载均衡等策略。
5.与算法团队协作,支持新模型、新算法快速落地。
【
任职要求
】1.基础扎实,学习能力强,愿意深入复杂系统和底层细节。2.代码能力强,代码品味好,擅长与 Code Agent 合作。3.对大模型训练、推理、RL、多模态系统优化有强烈兴趣。4.熟悉 Python / C++ / Rust 之一,了解 PyTorch。【加分项】1.在大型开源软件中有深度贡献,或有优秀个人开源项目。2.在高性能计算相关赛事(SC / ASC / ISC / PAC 等)或算法竞赛(IOI / NOI / ICPC 等)中取得优异成绩。3.熟悉 CUDA / Triton / TileLang / Ascend C 等算子开发。4.熟悉 RDMA 编程,CPU / IO 优化。5.在校成绩排名前 10%。6.复现过 LLM、RL、多模态相关论文 / 项目。(我们欢迎没有大模型经验,但计算机基础素质扎实、对 AGI 有热情的同学加入)
【团队使命】
AGI 的成功,离不开对极致工程系统的追求。我们致力于为 AGI 构建基础设施,打造高效、稳定、可扩展的工程系统,支持前沿探索的持续迭代、先进模型的大规模训练、以及面向全社会的极致性价比服务。我们的产出陪伴着每一代模型从能力验证一路走向大规模落地,长期、持续为下一代智能应用提供坚实基础设施底座。
【岗位类别】:实习/全职
【