直招.cv

← 返回职位列表

小红书 · 社会招聘

【Dots】大模型算子优化工程师

北京市,上海市,杭州 ·经验不限·学历不限

北京市,上海市,杭州市

职位描述

面向大模型训练/推理场景,开发和优化高性能 GPU 算子(Attention、GEMM、LayerNorm、MoE、Element-wise 等),逼近硬件理论峰值 针对新模型结构(长 context、MoE、线性 Attention 等)设计定制化 kernel,解决原生框架无法覆盖的性能瓶颈 深度优化访存效率、计算-访存重叠、算子融合(fusion),降低 kernel launch 开销与显存占用 参与推理引擎核心链路优化:KV Cache 管理、量化算子(INT8/FP8/INT4)、投机采样、continuous batching 等 与训练框架、模型算法团队紧密协作,将算法需求转化为高效的系统实现 探索新硬件(新一代 GPU / 国产算力)上的算子适配与性能调优 【任职要求】 基础要求 扎实的 CUDA 编程能力,深入理解 GPU 体系结构(SM、warp、shared memory、tensor core、访存层级) 熟悉性能分析工具(Nsight Compute/Systems、nvprof),能定位并解决计算/访存瓶颈 熟悉至少一种主流训练或推理框架(Megatron-LM、vLLM、SGLang、TensorRT-LLM、FlashInfer 等) 理解 Transformer 结构及其在训练/推理中的计算特征 加分项: 有 FlashAttention / Fle Attention 等前沿算子的复现或改进经验 熟悉 Triton、CUTLASS,能高效开发模板化 kernel 有 FP8 / 低比特量化算子落地经验 有 MoE、长序列、投机解码等新场景的算子优化实战 熟悉 NCCL / 通信算子优化,理解计算-通信 overlap 有开源贡献(vLLM / SGLang / Triton / PyTorch 等)或顶会论文(MLSys、OSDI、ASPLOS 等) 我们看重的特质 对性能有极致追求,看到 GPU 利用率不满就浑身难受 系统性思维,能在算法、框架、硬件三层之间自由穿梭 主动性强,能从模型需求反推系统设计,而不是被动接需求

最后确认在招:2026-09-01 19:11:29 · 来源平台:xiaohongshu