服务端工程师

1.负责大模型网关核心研发与架构设计，完成需求分析、功能开发、迭代优化，搭建高可用、高性能、可扩展的大模型统一接入管控平台，支撑业务侧模型稳定调用。 2.设计并实现网关核心能力，涵盖多模型统一适配、路由调度、负载均衡、限流熔断、权限鉴权、协议转换等功能，实现各类大模型服务的标准化接入与集中管理。 3.优化网关性能与调用体验，针对模型推理耗时、并发承载能力、响应延迟等指标做专项优化，完善缓存与异步处理机制，提升系统吞吐量与稳定性，保障高并发场景平稳运行。 4.整合上下游服务与外部接口，对接私有化模型、第三方模型API、业务系统、监控平台等，打通模型调用全链路，搭建日志统计、用量核算、监控告警等配套模块。 5.参与技术评审与技术攻坚，解决研发和上线中的核心技术问题，保障系统稳定性、安全性与可扩展性，跟进行业前沿技术，推动网关持续迭代升级。 【任职要求】 1.本科及以上学历，计算机相关专业，具备扎实的计算机基础与分布式系统基础知识。 2.精通至少一种主流后端编程语言（Java/Go/Python优先），编码功底扎实，熟悉常用设计模式。 3.具备良好的跨团队协作能力，能与产品、测试等角色高效配合，快速推进项目落地，具备技术攻坚意识。