LLM/VLM大模型推理算子优化工程师 - Data AML

团队介绍：Data AML是字节跳动的机器学习中台，为抖音/今日头条/西瓜视频等业务提供推荐/广告/CV/语音/NLP的训练和推理系统。为公司内业务部门提供强大的机器学习算力，并在这些业务的问题上研究一些具有通用性和创新性的算法。同时，也通过火山引擎将一些机器学习/推荐系统的核心能力提供给外部企业客户。 1、深度参与业界先进开源LLM/VLM模型的推理优化部署，构建业界领先的模型推理优化能力； 2、负责完善不同芯片的推理适配和优化技术体系，提升大模型芯片矩阵的适配与优化效率； 3、负责新型异构芯片在多种大模型上的分析评估工作，引入业界更高性价比的芯片算力； 4、负责前沿技术的调研评估和引进落地，例如前沿论文中的推理加速技术、软硬协同优化、新异构硬件特性等。 【任职要求】 1、2027届获得硕士及以上学位，计算机/电子/信息/通信/自动化/软件/微电子等相关专业优先； 2、熟练掌握Linux环境下的C/C++、Python编程语言； 3、具备扎实的计算机体系结构技术基础和并行计算优化能力，熟悉常见算法和数据结构，具有良好的编程习惯； 4、熟悉GPU或NPU的硬件架构，熟练掌握推理优化软件栈（CUDA、CUTLASS、AscendC、BangC、HIP、FlyDSL）中的一种或多种，擅长至少一种异构芯片上的AI模型性能分析和算子优化； 5、了解主流LLM、多模态模型结构特点，了解主流推理框架如vLLM、SGLang，了解常见大模型并行策略，了解常见大模型量化算法及算子优化方案优先； 6、有良好的编程规范和文档习惯。