LLM Infra工程师 - Data-抖音/直播/电商/剪映

团队介绍：Data-架构团队是字节跳动的核心技术引擎，为抖音、今日头条、番茄小说、剪映等旗舰产品构建大规模、高可用、可持续演进的推荐、搜索与广告工程架构。团队深耕推荐架构、搜索架构、广告架构、机器学习基础设施、在线服务架构与稳定性工程等领域，在千亿乃至万亿级数据规模、超大流量与复杂业务逻辑的真实工程挑战中，持续以技术创新驱动人与信息、人与服务的高效连接，服务全球数亿用户。 目前，团队正积极探索搜广推架构下一代范式：从大规模在线预估框架到生成式推荐大模型的训练、后训练与端到端推理，从分布式异步图引擎、统一数据编排到平台化业务策略与 Infra Research，让大模型真正落地于亿级流量的真实在线系统。欢迎热爱分布式、AI 大模型、搜广推架构的同学加入。 1、完成LLM训练/推理技术在搜广推大模型场景的研发、落地和调优，解决推荐场景的大模型工程问题； 2、针对PyTorch、TensorFlow等框架提供高自动化、极致性能的模型优化方案； 3、推动基于大模型开源组件构建，设计和实现新一代推荐系统架构，支持推荐大模型在业务落地； 4、与算法团队Co-Design，推动端到端生成式推荐技术创新的预研和落地。 【任职要求】 1、2027届获得本科及以上学历，计算机、软件工程等相关专业优先； 2、扎实的编程和算法基础，熟练掌握C/C++、Python、Java等编程语言，有CUDA开发经验，熟悉TensorRT/Triton/Cutlass经验者优先； 3、熟悉大模型推理加速的研究和技术进展，包括但不限于模型量化、图编译、算子调优、KVCache、PD分离等； 4、掌握LLM训练/推理技术，有实际开发和应用落地经验，例如Megatron、Deepspeed、VLLM、SGLang、TRT-LLM等； 5、对大模型工程有丰富的经验和广阔视野，紧追开源动态，具备独立的Trouble-shooting能力。