高性能训练工程实习生-Seed

日常实习：面向全体在校生，为符合岗位要求的同学提供为期3个月及以上的项目实践机会。 团队介绍：字节跳动Seed团队成立于2023年，致力于寻找通用智能的新方法，追求智能上限，为科技和社会发展作出贡献。 Seed团队在AI领域拥有长期愿景与决心，团队研究方向涵盖MLLM、GenMedia、AI for Science、机器人等，在中国、新加坡、美国等地设有实验室和岗位。目前，团队已推出业界领先的通用大模型以及前沿的多模态能力，支持豆包、即梦、TRAE等超过50个应用场景，并通过火山引擎开放给企业客户。第三方数据显示，豆包App用户量在中国市场排名第一，豆包大模型日均Token调用量行业领先。 1、负责音视频多模态场景训练/强化等任务Perf、优化和精度对齐工作； 2、负责模型高性能算子、通信优化等开发工作； 3、负责训练Dataloader和数据处理高性能优化。 【任职要求】 1、本科及以上学历在读，计算机及相关专业优先； 2、良好的沟通和团队协作能力，熟练使用Python语言，熟悉PyTorch深度学习框架； 3、熟悉NV GPU高性能生态，有CUDA/Triton开发经验者优先； 4、熟悉FSDP/Megatron等训练框架，熟悉数据并行/模型并行/流水并行等常用分布式训练方案优先； 5、熟悉常用深度学习算法，例如NLP/CV/语音。