蚂蚁集团-端智能agent安全策略专家-平台风险管理

1.agent整体安全方案设计：全链路设计端智能agent安全管控机制，包括供给安全、违规内容、xUI安全、意图护栏、调用管控、网络防御等，搭建对用户违规输入及模型违规输出的风险识别管控体系，确保复杂场景下的agent安全可控。 2.大模型攻击研究：研究端智能agent在多工具调用、RAG、memory、链式推理等复杂环境中的攻击面与潜在风险，识别敏感数据泄漏、工具滥用、意图篡改、海绵攻击、数据投毒、越狱攻击等新型威胁。 3.agent安全评测体系建设：基于端智能agent搭建风险知识体系，构建行业难题库及对抗样本生成工具，设计可复现的评测流程持续验证模型安全性与误杀表现。 【任职要求】 1.硕士研究生及以上学历，计算机、人工智能、软件、信息安全、统计和数学专业优先 2.具有大模型/算法等工作经历优先，有机器学习、多模态、大模型、Agent等经历者优先。 3.能快速理解业务，有良好的数据敏感度，擅于通过数据挖掘洞察问题，并结合业务目标制定合理方案。 4.沟通协调推动能力强，有良好的团队合作意识，善于在跨部门沟通中达成共识、协调资源。