九号公司 社会招聘
AI网关工程师
北京 ·经验不限·本科
北京
薪资面议
职位描述
岗位职责
1. 负责公司统一AI网关的架构设计、开发与持续运营,作为全公司大模型调用的统一入口与治理中枢;
2. 对接华为云、阿里云、百度智能云、DeepSeek等主流MaaS厂商API,建立统一模型接入层与适配层;
3. 设计并实现智能路由策略,基于成本、延迟、质量、合规要求进行模型动态路由与流量调度;
4. 建立Token成本治理体系,包括预算管理、限流控制、成本分摊、多维度(部门/项目/用户)报表与分析;
5. 保障AI网关高可用性,实现多MaaS厂商容灾切换、降级策略与全链路SLA监控告警;
6. 为内部业务团队提供统一SDK、API文档与技术支持,推动AI能力在业务侧高效落地。
任职要求
1. 本科及以上学历,计算机、软件工程等相关专业;
2. 3-5年后端开发或API网关相关经验,有AI网关/LLM API网关项目经验者优先;
3. 熟悉主流MaaS厂商API(阿里云、Azure OpenAI等),了解大模型调用机制与Token计费逻辑;
4. 熟悉API网关技术(如Kong、APISIX等),有高并发、低延迟系统设计与调优经验;
5. 熟练掌握至少一门主流编程语言(Go/Java/Python),有良好的编码习惯与工程素养;
6. 有大模型应用开发或LangChain/LlamaIndex等框架使用经验者优先。
官网发布:2026-09-05 · 最后确认在招:2026-09-05 19:41:42 · 来源平台:moka