音频多模态训练实习生-Seed大模型人才实习

团队介绍：字节跳动 Seed 团队成立于 2023 年，致力于寻找通用智能的新方法，追求智能上限，为科技和社会发展作出贡献。 Seed 团队在 AI 领域拥有长期愿景与决心，团队研究方向涵盖 MLLM、GenMedia、AI for Science、机器人等，在中国、新加坡、美国等地设有实验室和岗位。目前，团队已推出业界领先的通用大模型以及前沿的多模态能力，支持豆包、即梦、TRAE 等超过 50 个应用场景，并通过火山引擎开放给企业客户。第三方数据显示，豆包 App 用户量在中国市场排名第一，豆包大模型日均 Token 调用量行业领先。 1、负责音视频多模态场景大模型训练性能优化，负责开发和优化语音相关场景的大模型训练框架，保证训练效率达到业界领先水平； 2、与算法同学深度合作，进行算法和训推系统的联合深度优化，支撑部门前沿技术探索以及落地； 3、负责机器学习系统前瞻技术的调研和引入，持续加强提升部门关键技术竞争力。 【任职要求】 1、2028届及以后本科及以上学历在读，人工智能、计算机、自动化、数学相关专业优先； 2、熟悉PyTorch深度学习框架，熟练使用Python语言，有C++开发经验者优先； 3、熟练高性能计算优化技术，深入理解计算机体系结构，熟悉并行计算优化、访存优化，模型压缩，低比特计算等； 4、熟悉常用深度学习算法优先，例如NLP，CV，语音； 5、熟悉DeepSpeed/Megatron等大规模训练框架，熟悉数据并行/模型并行/流水并行等常用分布式训练方案优先； 6、熟悉CUDA生态，有CUDA/NCCL/CUTLASS开发经验者优先。