蚂蚁集团-AI infra工程师-杭州

1. 负责大模型分布式训练与推理框架的研发和性能优化，持续提升训练效率、推理吞吐、资源利用率及系统稳定性。 2. 深度参与蚂蚁自研RL框架的研发，推进基于 MoE 的模型架构与训推框架协同设计（co-design），实现千亿级模型的高效训练与推理。 3. 熟悉分布式训练任务调度与资源编排，通过AI Infra全栈优化充分挖掘和利用空闲 GPU 资源，提升集群 GPU 利用率和整体训练产能。 【任职要求】 1. 具备 2 年及以上 AI 系统、任务调度或高性能并行计算相关领域的研发经验，拥有良好的工程实践能力。 2. 熟悉 Transformer、MoE 等大模型架构，以及分布式训推与调度、大模型 Agent 系统或高性能软硬件架构中的至少一个方向。 3. 熟悉 SGLang、vLLM、Megatron-LM 等训推框架，或具备大规模模型训练、推理性能优化及 GPU 集群调度经验者优先。 4. 熟悉 GRPO、PPO、DPO 等强化学习或偏好对齐算法，或了解 AReaL、veRL、Slime、OpenRLHF 等 RL 框架者优先。 5. 对大模型及 AI 系统新技术保持热情，具备良好的逻辑思维、问题分析、沟通表达和团队协作能力。