大模型推理框架工程师（RL 方向）

我们希望你在某个领域有真正的深度——推理加速、GPU 性能优化、分布式系统、RL 工程，都行——同时对算法前沿保持真实的好奇心。你不需要什么都懂，但你应该知道自己不懂的东西在哪，并且想去弄懂它。 1. RL Rollout：推理是 RL 循环的发动机，我们使用Forge作为我们的RL框架。Rollout占据整个 RL 循环大部分的 wall-clock 时间，并且约束RL算法和Rollout策略的多样性，能多快、多灵活地生成轨迹，直接决定迭代速度。难点包括：Agentic（多轮、环境交互、外部状态机感知的推理系统优化、工具调用和环境的速度不稳定性）、长尾（深入的调度策略和latency优化）、KV Cache 管理、极致的吞吐优化、RL算法Co-design的Rollout策略和优化。 2. 通用高性能推理 serving——RL Rollout的效率，最终落在一个底座上：一个业界顶尖的高性能推理引擎。模型能力的上限，常常不卡在算法，而卡在基础设施的某个角落，我们做的事，就是把系统的瓶颈找出来，把它打通。 3. 算法与推理 codesign——我们不把推理当成训练下游被动的"执行方"，而是让推理、模型结构、训练算法三者协同优化。一方面，我们做的是托底：让模型不受工程与推理的约束，去 scale up 模型规模、设计模型结构、实现算法——想法不该死在"推理跑不动"上。另一方面，我们把推理效率作为核心指标之一反向输入到设计里，和团队一起深度优化模型结构与训练算法，端到端地抬高模型能力与效率的双重上限。从架构设计阶段就一起做，而不是等方案定了再来实现。 【任职要求】 基本要求 1. 编程能力扎实，有清晰的系统设计思路，有强烈的工程品味和责任心； 2. 对大模型推理系统或 RL 工程某一方向有深入理解，能独立发现问题、提出方案并推动落地； 3. 主动追踪算法与系统前沿，能将论文洞见转化为工程判断； 加分项 1. 对主流推理 / 训练开源框架（SGLang、vLLM、TensorRT-LLM、PyTorch、Megatron-LM 等）有深入了解，并有实质性贡献 2. 熟悉推理加速核心技术（算子优化、通信优化、KV cache 管理、MTP、分布式服务、PD 分离、低精度量化等），有大规模推理系统/服务的实战经验 3. 熟悉主流大模型结构，能够理解并建模模型设计时的效率/能力 trade-off及其推理效率