智能体运行时安全评测与防御关键技术研究-阿里星

1.负责智能体运行时安全评测体系的构建，围绕真实工具调用（Function Call）、多步任务执行、跨系统交互等Agent场景，设计并实现行为级安全评测框架，覆盖提示词注入、工具滥用、权限越界、执行链异常等风险维度 2.负责智能体行为轨迹的判读与分析能力建设，构建面向Agent执行过程的轨迹回放、意图识别、异常检测与归因分析工具链，支撑多轮交互与多步执行场景下的风险定位与溯源 3.负责智能体场景下的防御SDK设计与开发，沉淀运行时拦截、行为约束、安全沙箱、工具调用鉴权等防御组件，为业务侧接入Agent能力提供标准化的安全防护方案。 【任职要求】 1.计算机、数学、人工智能、网络安全等相关专业硬士及以上学历，3年以上算法研发或安全研发经验，有智能体安全、系统安全、大模型安全或偏好对齐领域背景者优先； 2.精通Python/C++/Java/Go中至少一门语言，具备扎实的数据结构、算法基础及工程化能力，熟悉深度学习框架 或 安全工具链开发经验； 3.具备以下一项或多项经验者优先：智能体场景的行为评测与基准构建、Agent执行轨迹的判读与异常分析、运行时防御SDK或安全中间件开发、系统安全/基础安全（如沙箱、权限控制、入侵检测等）相关工作； 4.有较强的问题分析与解决能力，能够针对实验结论提出假设并设计方案验证，并具备良好的技术洞察力与业务敏感度； 5.良好的团队协作与跨部门沟通能力，能推动算法与产品、工程团队的高效协同； 6.持续学习与技术输出能力，在顶会发表过相关论文或申请专利者优先，能通过技术分享带动团队能力提升。