【2027校招】AI安全算法工程师

面向公司大模型、RAG、AI Agent及相关AI产物，参与AI安全算法、安全评测方法和智能化安全能力建设，帮助团队识别并治理AI系统在数据、模型、应用和智能体运行过程中的安全风险。 【方向1：AI安全防护方向】 1、参与AI产品及Agent系统的威胁建模，将安全风险转化为可检测的特征、样本、规则和算法任务； 2、围绕提示注入、越狱、敏感数据泄露、知识库污染、模型滥用等风险，研发内容分类、异常检测、风险判定和安全决策算法； 3、面向Agent身份权限、工具调用、MCP、记忆、沙箱及外部数据访问等关键环节，研究行为建模、调用链分析和异常行为识别方法； 4、探索LLM、RAG、Agent等技术在风险检测、策略生成、结果验证及风险研判等场景中的应用，提升安全防护效果； 5、建设防护算法的训练与评测数据，持续优化攻击检出率、误报率、漏报率及不同业务场景下的泛化能力； 6、持续跟踪AI安全前沿技术和AI引入的新型安全风险，结合业务需求推动算法研究成果转化为关键安全能力。 【方向2：AI安全测评/测试方向】 1、研究面向模型、RAG、Agent及AI应用的自动化攻击与风险发现方法，提升安全测评的覆盖率和有效性； 2、研究提示注入、越狱、敏感信息泄露、知识库污染、记忆污染、工具滥用及越权执行等攻击方法与样本生成技术； 3、分析AI能力与Web、API、身份权限、数据访问及第三方组件结合后形成的全链路风险，研究攻击路径生成和漏洞判定方法； 4、设计LLM与Agent安全评测Benchmark、攻击数据集和指标体系，建设攻击样本自动生成、变异与迭代算法； 5、跟踪前沿AI动态，总结攻防经验，探索利用LLM、Agent等技术提升AI漏洞发现、攻击路径生成和证据链分析效率。 【任职要求】 1、本科及以上学历，计算机、信息安全、人工智能、软件工程等相关专业，其他专业但具备相关实践能力者也欢迎投递； 2、熟悉Python及常用数据处理方法，了解机器学习、深度学习或自然语言处理基础，能够独立完成算法实验和原型验证； 3、了解大模型、RAG和AI Agent的基本原理，具备数据集构建、指标设计、对照实验和实验结果分析的基础能力； 4、了解AI Agent调用链路及相关安全风险，如Tool Calling、MCP、Skill、Sandbox、OWASP GenAI Security、MITRE ATLAS等； 5、对AI安全有持续兴趣，愿意主动研究提示注入、越狱、数据安全、Agent安全等新型风险； 6、具备良好的问题分析、快速学习、文档表达和团队协作能力。 【加分项】 1、参与过大模型安全、AI Red Team、Agent安全、Guardrail或AI安全评测相关项目； 2、具备模型微调、RAG检索优化、文本分类、异常检测、攻击样本生成或大模型评测相关实践； 3、参与过安全或AI数据集、评测指标、Benchmark的设计与建设； 4、参加过AI安全竞赛、算法竞赛、CTF、SRC或攻防演练； 5、有顶级会议/期刊论文、国际发明专利、开源算法项目或安全Benchmark贡献。