大模型应用研发工程师（推理部署优化方向）-TRAE

团队介绍：TRAE（The Real AI Engineer），是字节跳动旗下的AI编程产品，一个能理解需求、调动工具、独立完成开发任务的AI开发工程师，为用户提供端到端生成真实软件的服务。TRAE是当前国内受到广泛欢迎的AI编程产品之一，也是业界首个端到端AI软件开发Agent产品，可覆盖简单到复杂全场景。我们正在寻找充满热情、富有创造力的人才。期待你的加入，与我们共同重塑开发范式，定义未来开发的形态。 1、服务稳定性保障：保障TRAE产品AI功能的模型服务稳定，处理线上报警、完成部署扩缩容，支撑To C/To B业务增长； 2、E2E性能及成本优化：端到端分析链路性能，协同客户端与服务端优化代码补全及Agent时延、吞吐；从业务视角优化模型部署成本，提升GPU利用率； 3、高性能推理部署优化：结合业务特性设计并迭代模型推理、部署方案，逼近硬件理论算力极限；基于高性能算子库扩展新模型结构支持，构建“模型量化-推理加速-部署”完整Pipeline并产品化落地（如MoE稀疏结构、Diffusion模型）。

1、对LLM应用层创新有热情，追求卓越，致力于逼近模型能力边界与硬件理论算力极限； 2、具备端到端分析业务性能瓶颈、稳定性的能力，能精准定位关键卡点并推动解决； 3、熟悉LLM模型部署流程及常见优化技术，有vLLM、TRT-LLM、SGLang开发/优化经验者优先； 4、了解NVIDIA GPU硬件特性，具备一定CUDA Kernel开发及调优经验； 5、自驱力强，能主动学习LLM前沿结构与推理、部署优化方案，并推动业务落地。