Agent Gateway高级研发工程师-Data

字节跳动

岗位职责

1、负责Agent Gateway系统设计与研发,涵盖统一接入层、请求路由、模型适配、协议转换、流式返回、会话管理等模块; 2、负责模型与Agent调用治理,包括路由、Fallback、灰度、熔断、限流降级,以及基于场景、成本、质量、延迟的动态调度策略; 3、负责安全、权限与合规能力建设,包括鉴权授权、租户隔离、请求级/用户级/工具级权限治理,保障企业级调用链路安全; 4、负责可观测性与运维诊断体系建设,包括链路追踪、日志、Metrics、Prompt/Tool调用记录,搭建质量、成本、延迟、成功率监控体系; 5、负责平台工程化、开发者体验优化及技术演进,包括SDK、API、配置平台、调试工具建设,降低业务接入成本,推动Agent基础设施标准化;跟进LLM Gateway、MCP、Agent Runtime、PromptOps、AIOps等方向,持续提升高并发、高可用、低延迟、成本控制能力。

任职要求

1、计算机相关专业,本科及以上学历,2年以上后端研发工作经验; 2、具备扎实的计算机理论基础,熟练掌握至少一种编程语言(如Go、C、C++等); 3、熟悉TCP/IP等常用网络协议,拥有丰富的网络编程、故障定位及性能调优经验; 4、对网络系统和AI技术怀有持续的好奇心与钻研精神,有意愿在该领域长期深入发展; 5、乐于从事具有挑战性的工作,具备较强的自驱能力; 6、具备独立思考与系统化解决问题的能力,能够从0到1推动复杂项目落地。 加分项 1、有API Gateway/Service Mesh/统一接入层/模型网关相关系统建设经验; 2、有LLM应用/Agent平台/MCP/RAG/模型推理服务/模型路由实践经验。
岗位信息来源于公开招聘渠道,仅作信息聚合展示。收录于 2026/9/9岗位编号 bytedance_campus-7655269105054599429