电商MaaS平台研发工程师-TikTok Shop

1、平台规划与架构设计：负责MaaS平台（LumiRouter）的整体技术规划、架构设计与演进路线图制定，确保平台在功能、性能、稳定性及成本控制上具备业界领先水平； 2、统一接入与智能调度体系建设：主导建立标准化的模型与算子接入流程，推动集团内（如ModelHub、火山方舟）及多云多源模型的统一纳管，持续优化平台易用性与开发者体验，实现新模型/业务的分钟级接入与自助化管理；设计并实现高效的智能路由与调度系统，基于业务SLA、负载状况、KV Cache亲和性等特征动态调度请求，最大化模型复用率，探索落地语义理解智能路由策略，构建自动化多层级Fallback与模型降级机制，系统性提升业务韧性； 3、成本管控与FinOps体系建设：建立精细化的成本度量与归因体系，实现Token粒度的计费与可视化，构建完善从预算、监控、分析到优化的FinOps闭环，为业务提供透明成本看板并驱动成本持续优化； 4、资源与稳定性保障：从全局视角规划和管理电商的GPU资源，建立多租户的Quota管理与弹性伸缩机制，负责平台核心SLA，建设全链路可观测性（监控、告警、Tracing）与自动化治理能力，保障平台99.99%可用性； 5、全生命周期管理、合规治理与跨团队协同：定义并落地模型/算子的全生命周期管理规范，覆盖从引入、评测、上线、监控到下线的完整流程，与安全、法务团队紧密合作，确保所有通过平台提供的模型与服务均满足数据安全与合规要求；与底层推理框架（如MixInfer）、模型中台（如ModelHub）、云平台及众多业务方紧密协作，确保端到端链路顺畅高效，积极布道平台能力，推动存量业务（如LLM-studio）向MaaS迁移，提升平台覆盖率。

1、本科及以上学历，计算机、软件工程、人工智能等相关专业，5年以上分布式系统、云服务或大模型平台开发经验； 2、深入理解MaaS（模型即服务）平台架构，有大模型网关、推理服务平台、AI中台相关建设经验优先，熟悉LLM/VLM/AIGC等主流模型的部署与服务化流程； 3、扎实的分布式系统设计功底，精通至少一种主流后端语言（Go/Java/Python），有高并发、低延迟系统设计与性能优化经验，熟悉微服务架构、服务治理、可观测性体系建设； 4、熟悉大模型推理相关技术，了解vLLM/SGLang/TensorRT-LLM等主流推理引擎，有GPU集群调度、资源管理、FinOps成本优化相关经验优先； 5、具备优秀的业务理解力与跨团队协作能力，能够深入理解电商场景需求，推动复杂项目落地，有电商行业相关经验优先； 6、具有强烈的技术热情与自驱力，能够主动发现并解决问题，具备良好的团队管理能力。 加分项 1、有过亿级流量大模型服务平台建设经验，熟悉主流云厂商MaaS产品架构与实现原理； 2、参与过大模型训练/推理基础设施建设，有Kubernetes、GPU调度、分布式存储相关经验； 3、有电商行业AI应用落地经验，熟悉搜推、客服、内容生成等电商场景的大模型使用需求； 4、有开源社区贡献经历或相关技术领域论文发表经历。