平头哥-AI Infra 工程师-上海

1. 主导高扩展性、高吞吐量AI基础设施平台的设计与构建，基于VLLM、SGLang等前沿推理框架，搭建支持多模态大模型的分布式推理系统，实现动态资源调度与低延迟响应 2. 构建智能化资源调度策略与弹性扩缩容机制，保障高并发场景下推理服务的稳定性与资源利用率最大化 3. 解决大规模分布式场景下的性能瓶颈，优化GPU集群资源利用率及端到端推理吞吐量，降低推理成本并提升TTFT、TPOT等指标 4. 跟踪AI基础设施领域（AI Infra）技术趋势，包括但不限于分布式推理优化、模型即服务（MaaS）、自动化模型部署（AutoML）等，结合业务场景进行技术选型与创新性实践 5. 设计并实现AI推理服务效能监控看板与端到端可观测性（Observability）系统，通过实时指标分析（如token消耗、GPU利用率、延迟分布）驱动业务侧资源优化。 6. 构建数据驱动的A/B测试与成本分析模型，为业务决策提供量化依据，助力模型服务化全生命周期管理。 【任职要求】 1. 硕士及以上学历，计算机科学、人工智能等相关专业，具备3年以上AI基础设施或大规模分布式系统研发经验 2. 精通Python/C++/Go等至少一种编程语言，具备扎实的分布式系统设计能力 3. 深入掌握Kubernetes集群的高可用架构设计与大规模运维，熟悉容器编排、存储优化及网络性能调优方法论 4. 熟悉VLLM、SGLang等推理框架的底层机制，有基于LLM的向量化推理、动态批处理或模型并行优化经验者优先 5. 熟练掌握Prometheus、Grafana、OpenTelemetry等可观测性工具链，具备复杂故障场景的根因分析能力