端侧AI Infra开发实习生-音视频技术

ByteIntern：面向2027届毕业生（2026年9月-2027年8月期间毕业），为符合岗位要求的同学提供转正机会。 团队介绍：视频与边缘部门承载了字节跳动的媒体内容分发基建及技术中台，支持了字节全系产品，如抖音、今日头条、番茄小说、西瓜视频等APP的点播、直播、实时通信、图片等多媒体业务发展，同时将业务发展过程中沉淀下来的技术能力和工具，通过火山引擎对外输出，面向各行各业用户提供视频云产品和服务，愿景是为内外部业务伙伴提供最低成本、最优画质、最低延时、最安全可靠的富媒体内容分发解决方案，助力业务伙伴降本提效实现持续增长。 1、负责模型推理全流程优化，低比特量化（AWQ、GPTQ、SpinQuant等）、模型剪枝、蒸馏等模型压缩技术，以及FlashAttention、KVCache高效管理、投机推理等推理优化手段； 2、针对端侧 CPU(ARM/x86)、GPU、NPU（高通/联发科/海思）等异构硬件，通过SIMD指令集优化、CUDA/OpenCL编程、硬件特性适配等方式，最大化释放硬件算力潜能； 3、支撑大模型及业务模型在手机、车载、智能设备等端侧场景的高效部署，解决落地过程中的兼容性、性能瓶颈等问题，保障量产级应用体验。 【任职要求】 1、2027届本科及以上学历在读，计算机科学、软件工程或相关专业优先； 2、精通C/C++编程，熟悉Python，具备扎实的数据结构、算法基础及操作系统原理（内存管理、多线程等）； 3、了解深度学习基础理论，熟悉CNN、Transformer等主流模型架构，对模型推理流程有清晰认知； 4、熟悉至少一款主流端侧推理框架（NCNN、MNN、Paddle-Lite、TensorFlow Lite、llama.cpp等）的原理与使用，有二次开发或优化经验者优先； 5、掌握至少一种推理加速技术实践经验，如模型压缩、硬件优化、推理优化； 6、有智能终端、车载设备或IoT场景AI模型部署落地经验者优先。