大模型后训练优化工程师-Seed
字节跳动
上海校招字节跳动社会招聘(社招)
岗位职责
团队介绍:字节跳动Seed团队成立于2023年,致力于寻找通用智能的新方法,追求智能上限,为科技和社会发展作出贡献。
Seed团队在AI领域拥有长期愿景与决心,团队研究方向涵盖MLLM、GenMedia、AI for Science、机器人等,在中国、新加坡、美国等地设有实验室和岗位。目前,团队已推出业界领先的通用大模型以及前沿的多模态能力,支持豆包、即梦、TRAE等超过50个应用场景,并通过火山引擎开放给企业客户。第三方数据显示,豆包App用户量在中国市场排名第一,豆包大模型日均Token调用量行业领先。
1、负责超大规模机器学习系统架构的设计与开发,解决系统可扩展性、高可靠性、易用性等关键技术问题;
2、负责机器学习系统前瞻技术的调研和落地,以前瞻视角实现业界领先的超大规模训练方案;
3、与算法部门深度合作,进行算法与系统的联合优化,覆盖Pretrain、RL、新硬件适配等多个场景;
4、负责机器学习基础框架与迭代脚手架的更新、重构与持续优化,提升研发效率与工程标准化水平。
任职要求
1、本科及以上学历,计算机、软件工程、人工智能等相关专业优先;
2、具备工程或机器学习算法领域的深厚功底和算法相关经验;
3、历史上解决过复杂技术难题,遇到问题能深入底层、敏锐观察、逻辑清晰,具备迎难而上的攻坚能力;
4、由衷热爱技术,有强烈的工作责任心、优秀的学习能力与自驱力;
5、具备良好的沟通协作能力,能与团队共同探索新技术、推进技术落地与迭代;
6、对前沿技术保持敏感与持续关注,具备一定工程管理与流程优化能力,能推动项目高效落地。
加分项:
1、熟悉LLM、NLP、CV、语音相关算法与技术,有大模型训练、Diffusion、RL算法相关经验者优先;
2、有以下某一方向领域经验:高性能计算/CUDA、RDMA/通讯库,低精度/压缩/矩阵分解,存储和IO,异构加速硬件体系、分布式系统和大数据架构、系统算法联合优化;
3、熟悉完整算法研发与训练流程,具备综合系统设计与整体方案规划能力者优先。