推理研发工程师

岗位职责： 参与金山云智算云模型推理引擎开发 【任职要求】 工作要求，以下技能中匹配2个及以上： 熟悉vLLM/sglang/TRT-LLM等至少一种LLM推理引擎架构，具有一定开发经验 熟悉LLM/多模态/diffusion等至少一种大模型推理加速优化技术 熟悉分布式训练/分布式推理 熟练掌握大模型低比特量化方法 熟悉GPU架构和CUDA编程，深度学习算子优化方法