训推平台研发/引擎研发

岗位职责： 参与金山云智算云模型推理引擎开发工作要求，以下技能中匹配2个及以上： 熟悉vLLM/sglang/TRT-LLM等至少一种LLM推理引擎架构，具有一定开发经验 熟悉LLM/多模态/diffusion等至少一种大模型推理加速优化技术 熟悉分布式训练/分布式推理 熟练掌握大模型低比特量化方法 熟悉GPU架构和CUDA编程，深度学习算子优化方法 【任职要求】 岗位职责： 参与金山云智算云模型推理引擎开发工作要求，以下技能中匹配2个及以上： 熟悉vLLM/sglang/TRT-LLM等至少一种LLM推理引擎架构，具有一定开发经验 熟悉LLM/多模态/diffusion等至少一种大模型推理加速优化技术 熟悉分布式训练/分布式推理 熟练掌握大模型低比特量化方法 熟悉GPU架构和CUDA编程，深度学习算子优化方法