AI推理平台-百炼技术专家/高级开发工程师(管控与企业能力提升方向)-北京/杭州

AI推理平台团队聚焦于集团AI推理平台（阿里云百炼、千问AI平台、Qwen Cloud等）模型服务的基础研发，覆盖从底层架构设计到上层业务支持的全链路开发工作。我们的目标是打造业界最出色、成本最低、效率最高、规模最大、稳定、易用的MaaS平台，支撑大规模AI模型的研发、部署与推理极致优化，助力企业级AI应用的快速发展。 1. 负责阿里云百炼、千问AI平台管控面后端的设计、开发与维护，参与模型广场、调优&部署、数据管理、观测评测、商业化计费、企业级能力、网关管控等方向之一的设计与开发工作。 2. 模型调优与部署：负责百炼、千问AI平台上模型后训练产品工程链路开发，包括数据集管理、框架集成、任务调度、量化与蒸馏、调优后模型部署、公池API产品化售卖(如PTU、TPM预留、多LoRA)等。 3. 观测与评测：负责百炼/千问AI平台的模型与应用可观测系统建设，包括OpenTeletry观测体系、API监控与告警、模型访问审计、用量分析等；以及基于观测日志等数据为基础的模型评测、应用评测、数据标注、模型调优等大模型工具层能力建设；负责Agent Studio Loop等产品能力建设。 4. 数据管理：负责百炼、千问AI平台的数据系统的架构和实现，包括多模态数据源接入/数据Connector、解析与清洗、数据管理等能力，为百炼模型层和应用层提供安全易用、高质量的数据能力。 5. 企业级能力与商业化：负责百炼平台的管控基建(管控网关、权限、限流、多站点等)、企业级能力(网络通道、数据权限管控、细粒度权限、资源与Open API等)、商业化(商品订单、商业化计费、Token Plan等)等架构和开发工作。 6. 了解技术使用场景和优缺点，能够就复杂技术问题，提供解决方案并执行落地，同时对上下游技术团队及技术架构有完整的了解。 7. 基于业务需求和技术洞察，在大模型基础设施管控方向上，进行技术规划并落地。 【任职要求】 1. 熟练掌握Linux环境下Java/Python等1-2种语言。 2. 硕士及以上学历，3年以上开发工作经验，具备扎实的计算机科学功底和编程能力，具有良好的编程习惯。 3. 具备独立模块或系统的需求分析、架构设计和编码能力，保证高并发后端系统的架构稳定性。 4. 熟悉面向对象的分析和设计技术，包括设计模式、UML建模等，对领域模型设计有理解。 5. 对于AIGC或者大模型有了解和实际开发经验者优先；有大模型数据、模型评测相关经验者优先。 6. 有强烈的工作责任心、良好的学习能力、沟通能力、自驱力。