下一代大模型高效推理与生成范式研究-阿里星

面向 LLM/AIGC 领域生成效率低、推理成本高、长序列生成受限等核心挑战，本课题聚焦下一代高效生成范式探索，突破传统自回归解码与多步扩散生成的效率瓶颈，为大模型推理加速提供新的算法范式和技术路径。 1. 探索面向 LLM 的新型高效生成范式，包括 Diffusion LLM、Parallel Thinking、半自回归生成等方向，提升语言模型在长文本、复杂推理和多步任务中的生成效率。 2. 探索多模型协作的部署方案，面向大流量在线推理场景，研究多模型路由、级联推理、动态调度与成本感知决策等机制，在保证效果的前提下尽可能降低推理成本。 3. 探索面向 Diffusion 模型的极少步数蒸馏技术，包括一致性蒸馏、分布匹配蒸馏、Mean Flow 等扩散蒸馏范式，挑战极少步数下的生成效果。 4. 探索视觉生成领域的新型加速范式，包括 AR Vision Generation、高倍隐空间压缩、非隐空间扩散生成等方向，在前沿方向上突破当前扩散生成的效能瓶颈。 【任职要求】 1. 计算机科学、人工智能、机器学习、数学、统计学等相关专业硕士及以上学历，博士优先。 2. 具备扎实的数学基础，熟悉概率统计、优化理论、数值方法、随机过程等相关知识，能够从生成模型机制出发进行理论分析与算法设计。 3. 熟悉 LLM、Diffusion Model、Flow Model、Energy-based Model、自回归生成等生成式模型原理，对生成范式演进有深入理解。 4. 熟悉大模型推理、采样算法、并行生成、模型蒸馏、强化学习或后训练方法，有相关研究或项目经验者优先。 5. 熟练掌握 Python，熟悉 PyTorch/JAX 等深度学习框架，具备良好的算法实现、实验分析和工程优化能力。 6. 在 NeurIPS、ICML、ICLR、CVPR、ACL、MLSys 等顶级会议发表论文，或参与高质量生成模型/大模型开源项目者优先。