GPU推理优化专家

职位描述： 1、负责研发公司的推广搜/大模型推理引擎，推动大模型的高效落地和推理。 2、通过 GPU 性能优化手段，结合业务实际情况，打造业界领先的高性能推理引擎。 3、参与研发业界领先的 AI Infra 底层优化技术，提升通用性，产生更广泛的业务价值。 4、跟进和探索前沿的大模型推理底层技术，能将业界最佳实践落地到内部的引擎优化中。 职位要求 1、有扎实的 C++ 工程基础，具备高性能计算或计算机系统结构背景者优先。 2、熟悉 CUDA 开发和 Nsight System 等性能分析工具，熟悉至少一种 GPU 加速库，如 cublas、cudnn、cutlass 等，有 GPU 高性能算子开发经验优先。 3、熟悉深度学习编译优化或异构硬件，有 XLA / TVM / MLIR 开发优化经验，熟悉代码生成原理和实践；或有传统编译器开发经验，熟悉 LLVM 原理和使用。 4、熟悉各类深度学习网络和算子底层实现细节，对 Transformer 结构优化有实操经验者优先。 5、具有良好的团队合作精神和沟通能力，能够与跨部门的团队紧密合作，共同推动项目的成功。 6、具备较强的学习能力和责任心，能和团队一起探索新技术，对业务产生价值。