AI Agent基础设施&系统架构-阿里星/A Star

通过在基础设施层的架构设计和优化，包括模型训练、推理以及Agent Infra， 打造AI Agent产品的坚实底座，支持Agent快速研发和应用，降低服务成本，保证服务质量和稳定性，推动AI应用产品的大规模落地应用。 1. 模型训练优化上，解决基础的计算、存储和数据等方面优化的同时，设计agentic 的方法，支持AI native的模型后训练（e.g. Agentic RL）， 自动化模型训练过程，降低人力干预，实现在线服务的模型自动化训练和更新。 2. 模型推理优化上， 针对agent业务产品需求，在MoE，长上下文，以及LLM/多模态/视频生成等场景下进行推理性能优化，包括调度、量化（INT4/INT8/FP8）、算子融合、CUDA Kernel 定制设计，以及算法和infra结合优化（e.g. token压缩，模型压缩等），提升计算性能，降低推理latency， 降低模型服务成本。 3. Agent Infra上，进行Agent全生命周期基础设施的打造，包括网关，运行时，沙箱，agent编排与协作，记忆系统，skills/生态，可观测和安全保障等， 支持agent产品的快速研发和落地应用，保障agent服务质量。 【任职要求】 1. 计算机、数学、电子等相关专业毕业， 博士优先。 2. 熟悉机器学习以及AI相关的算法，熟悉最新的LLM大语言模型、多模态模型、视频模型，有相关模型架构设计和优化经验者优先。 3. 有AI Infra相关的经验者优先，包括但不限于训练框架(Megatron、deepspeed，verl), 推理引擎(vLLM, SGLang, trt-llm)的设计和优化， 以及Agentic RL等。 4. 有Agent Infra相关经验者优先，包括但不限于Agent框架(e.g. Hermes, google ADK, openClaw，LangGraph等)， 沙箱和隔离、 长短记忆、ReAct、MCP等。 5. 熟悉计算机系统，了解GPU等芯片架构， 有系统调度优化，高性能计算等方面经验者优先。 6. 良好的问题解决能力和程序设计能力，比如python，rust，c++等，对于AI native研发模型有了解， 熟悉AI coding。