金融科技-Agent架构设计与推理性能优化工程师

1.· 负责Agent harness的设计与平台 Agent 开发，结合统一Agent框架、标准LLM服务，扩展自定义工具、沙箱 、Agent 互调通信，完成业务功能目标； 2.· 围绕工具的场景，定义量化指标，并结合轨迹的合理性，整体优化 Agent 工作效率与效果； 3.· 优化模型推理性能，包括缓存命中率、私有化推理集群的调度、卡适配、跨集群成本削峰填谷等，提升推理资源利用率和响应速度； 4.· 协助Agent框架与FAT平台、LLM API、评测系统的打通，实现一站式Agent创建、上线与效果评估； 5.· 跟踪Agent与推理框架的前沿技术，结合业务需求探索创新方案并推动落地。 【任职要求】 1.· 具备扎实的后台工程能力，有行业 成熟 Agent框架的实战经验； 2.· 熟悉大模型推理框架，有相关优化经验（vLLM、sglang等）； 3.· 有卡推理适配和集群化推理调度经验者优先； 4.· 有持续的一线技术优化实战经验，能独立承担Agent设计与核心模块开发，对Agent的上下文工程、工具调用、Skill设计有深入理解，了解最新上下文设计原则； 5.· 计算机、人工智能等相关专业本科及以上学历，有顶会论文或开源项目贡献者优先。