集团安全部-阿里控股-大模型安全-大模型安全算法

1. 负责端侧大模型内容安全算法架构设计与研发，构建覆盖文本、图像等多模态输入的违规内容识别体系，实现对用户违规输入及模型违规输出的风险实时拦截与精准识别； 2. 设计并落地基于Agent的模型自动迭代系统，利用Agent自主完成线上Badcase挖掘、对抗样本生成、数据回流、增量训练与效果验证的全流程编排，实现内容安全模型的自助进化与持续调优，大幅降低人工干预成本，提升模型对新型违规内容的响应速度； 3. 设计端云协同的算法解决方案，结合端侧轻量化模型与云端高精度模型的联合优化，提升内容安全检测的实时性与准确性。 4. 主导核心能力建设，包括但不限于大模型端侧化、模型压缩加速、加密传输、攻防对抗技术研究，并将Agent能力深度嵌入算法研发与运维全流程，推动算法在业务场景中的高效落地、自动迭代与持续进化。 【任职要求】 1. 计算机、数学、人工智能等相关专业硕士及以上学历，3年以上算法研发经验，有内容安全或风控领域背景者优先。 2. 精通Python/C++/Java中至少一门语言，具备扎实的数据结构、算法基础及工程化能力，熟悉深度学习框架（如PyTorch、TensorFlow）。 3. 熟悉机器学习、深度学习及强化学习算法，对多模态处理（文本、图像）有实践经验。 4. 具备端侧模型开发经验，熟悉模型压缩（如量化、剪枝）及端云协同推理优化技术，能应对资源受限环境下的算法部署挑战。 5. 具备AI Agent开发与模型自动迭代系统落地经验，熟悉LangChain、AutoGen、CrewAI等主流Agent框架，掌握ReAct、Reflection等推理范式，能够利用Agent实现Badcase挖掘、数据回流、增量训练、效果验证的全流程自动化编排；有将Agent与MLOps/LLMOps平台集成、构建无人值守模型自进化闭环的实战经验者优先。 6. 有较强的问题分析与解决能力，能够针对新型攻击手段快速设计防御方案，并具备良好的技术洞察力与业务敏感度。 7. 良好的团队协作与跨部门沟通能力，能推动算法与产品、工程团队的高效协同。 8. 持续学习与技术输出能力 ，在顶会（如CVPR、NeurIPS、CCS等）发表过相关论文或申请专利者优先，能通过技术分享带动团队能力提升。