前沿Agent安全能力预研-阿里星

1. 驱动Agentic攻防体系升级：将大模型能力嵌入威胁检测、异常识别、漏洞挖掘与自动响应场景，打造具备自学习、自适应能力的智能安全引擎； 2. 构建Agent全生命周期防护体系：针对企业级Agent应用在多轮对话、工具调用、插件集成、多Agent协作等场景下的安全风险，研究并构建覆盖需求定义、开发测试、部署运行、推理调用、行为审计全阶段的安全防护体系；重点防范Prompt注入与越权调用、工具链攻击与沙箱逃逸、上下文敏感数据泄露、Agent行为失控与幻觉执行等新型威胁，确保企业级Agent系统在可控范围内安全运行； 3. 保障企业级Agent应用的数据与隐私安全：研究Agent在访问企业知识库、调用外部API、处理多租户业务数据等场景下的数据安全风险；设计Agent系统的数据访问控制、敏感信息脱敏、跨系统数据流转审计等机制，防范企业核心数据通过Agent交互链路泄露或被滥用；结合差分隐私、联邦学习等技术，在保障Agent智能化能力的同时实现数据最小化使用原则； 4. 开发高效安全工具链：参与漏洞扫描、代码审计、配置检测等能力平台的研发，提升DevSecOps体系的智能化与自动化水平； 5. 跟踪行业趋势，参与攻防实践：关注AI安全前沿研究，参与攻防演练、漏洞分析、开源共建等项目，推动行业安全能力演进。 【任职要求】 1. 熟悉 Java、Golang、Python、C/C++ 等语言中的至少一种，有良好的编程习惯； 2. 对算法、数据结构、操作系统、网络通信等计算机专业基础有较好的掌握和理解； 3. 热爱安全攻防，对网络安全和 AI 安全均有一定了解，理解传统攻防手法与防御思路（如 Web 安全、网络协议安全、系统安全等），同时关注 Prompt 注入、越狱攻击、数据泄露等 AI 时代的新型安全风险； 4. 对 AI/LLM 技术有浓厚兴趣，了解大模型、Agent、RAG 等相关技术概念，理解 Agent 系统的基本架构（工具调用、规划、记忆、多 Agent 协作等）； 5. 学习能力强，对新事物抱有好奇心，有良好的沟通能力和团队协同能力，善于独立思考和反思总结。 加分项： 1. 有 ACM、超算、CTF、安全攻防等编程或安全类竞赛获奖者优先； 2. 有项目开发经验，参与过开源项目者优先； 3. 熟悉云场景和相关中间件者优先； 4. 有 LLM 应用开发、Agent / Multi-Agent 系统构建经验者优先，有将 Agent 技术应用于安全场景（如自动化威胁检测、智能告警研判、攻击溯源等）的实践经验更佳； 5. 对应用层漏洞原理、代码审计、漏洞利用与防御方式有扎实基础，或在 AI 安全方向（如大模型红队测试、Agent 安全沙箱、对抗攻防）有研究或实践经验； 6. 发现过真实场景的安全问题，在工业界或学术会议上发表过研究成果者优先。