词元星火-端侧（含边缘）大模型推理研发工程师-合肥(J14269)

1、 面向边缘场景的算子开发与优化 - 围绕GPU等主流边缘硬件架构，依托SIMD/SIMT等并行计算技术，完成面向大模型核心计算算子研发和优化。 - 立足芯片存储层级、计算单元、指令集特性，开展针对性性能调优，确保算子性能精准匹配硬件能力，为业务提供高效算力支持。 2、 面向端侧丰富算力硬件适配 - 针对高通、MTK等多种常见的端侧芯片，高效发挥芯片算力，加速星火模型计算； - 面向瑞芯微、聆思等丰富的国产端侧芯片，协同芯片特性，适配优化星火大模型。 3、协同设计与引擎框架研发 - 紧跟模型结构与算法迭代趋势，协同框架、算法团队，设计适配边缘硬件特性的模型方案，挖掘硬件与算法的协同潜力。 - 围绕自有或开源推理框架，研发星火大模型端侧推理的框架，设计并实现高性能、低延迟的推理解决方案，为模型落地提供性能优化支撑，保障业务高效运行。 【任职要求】 1、基础门槛 - 研究生及以上学历，热爱开源； - 编程功底扎实，精通C++/C语言，具备良好的代码规范意识与数据结构、算法基础，熟悉操作系统核心原理； - 熟练使用Git等代码管理工具，养成规范的开发习惯；熟练掌握linux下开发能力； - 热爱性能优化，兼具技术视野与代码品质追求，具备良好的中文沟通能力、团队协作意识、责任心与自驱力，学习能力突出。 2、技术必备 - 熟练掌握NEON指令、AVX指令、CUDAC、OpenCL等至少一种编程原理，能够基于编程语言开展研发和优化工作； - 掌握模型表示协议ONNX，熟悉编译优化技术，清晰理解GPU/NPU架构的并行执行、内存层级与计算单元特性； - 对硬件底层架构有清晰认知，能够结合硬件特性开展针对性优化。 3、加分项（非必须要求） -端侧专长：有低比特计算、定点化等落地和研发实践，深入理解AI加速卡硬架构和特性； -竞赛背景：在高性能计算或端侧相关相关赛事取得较好成绩； - 行业经验：拥有1-3年以上端侧落地经验，执着于挖掘硬件性能、提升软件效率。