蚂蚁集团-蚂蚁技术研究院-LLM系统工程师

我们团队将致力于探索新型LLM架构的训练与推理加速技术，推动模型结构与算法层面的创新，全面提升LLM的效率与性能。 1. 研发Diffusion LLM的高效训练与推理框架，实现其推理性能1000倍的提升，突破现有扩散模型在语言生成中的效率瓶颈 2. 和LLM算法研究员合作，通过算法和系统的co-design，加速现有LLM的训练和推理 3. 针对新型LLM优化关键算子与分布式并行计算策略，显著降低其训练与推理成本 4. 开发面向LLM算子与并行计算的自动化优化框架，为算法研究人员提供一站式的自动优化解决方案，显著提升模型结构的开发效率与系统性能。 【任职要求】 1. 硕士以上学历 2. 具有至少 3 年以上的AI系统/分布式并行计算领域开发经验； 3. 熟悉 Transformer/MoE 等大模型结构、大模型训练/推理系统, 熟悉 sglang、vllm、megatron 等训推框架和大规模训推优化； 4. 较强的团队沟通和学习能力，较强的编程能力