大模型与智能体安全——面向Agentic AI的攻防评估与可信安全防御（隐私计算）-安全与风控（北京/深圳）

团队介绍：我们团队牵头探索人工智能数据安全与隐私保护、联邦学习、安全多方计算（SMPC）、可信执行环境、差分隐私及同态加密等前沿网络安全技术。我们开展尖端研究，致力于将新兴理论转化为数据与系统安全领域的实际应用方案。通过开创安全计算与隐私保护的全新方法，为塑造可信数字创新的未来发挥重要作用。 课题介绍： 智能体应用在爆发式增长同时，也引入了新的安全挑战。包括数据、决策、执行、供应链在内的更大攻击面，及其错综的交互特点和复杂的基础设施，使得传统安全技术纷纷失效，智能体、数据、模型等资产面临着失控、失窃和受损的风险。 本课题旨在系统研究Agentic AI时代下大模型与智能体的攻防测试评估技术，以及基于大模型可信隐私计算的全链路防御体系，保障公司大模型业务的安全平稳发展，包括： 1、多模态大模型与智能体的攻防检测与评估方法、测试基准以及工具链； 2、面向智能体应用的风险防御技术以及可信安全运行保障技术； 3、大模型以及海量样本下的训练与推理技术，保障数据与模型资产安全； 4、面向大模型的机密训推基础设施安全构建、性能优化以及国产卡适配。 课题挑战： 1、智能体高权限下提示注入、记忆投毒等新攻击难以检测，多模态为对抗样本攻击提供了新路径； 2、插件生态缺乏审计，供应链投毒规模蔓延，如何为智能体构建过程完整、数据机密、行为可信的防护体系； 3、在大模型上百B的参数以及海量样本场景下，训练与推理如何实现安全、性能与成本的均衡，可信、可运维、高性能的工业级机密大模型训推基础框架如何构建。 课题价值： 1、技术价值： 1.1构建Agentic AI多模态安全评估基准与红队测试工具链； 1.2构建领先的大模型安全训练与推理算法、系统以及智能体安全可信防护能力。 2、业务价值： 2.1为智能体产品提供运行时安全防护能力以及可信可证的用户隐私保护措施，保障Flow等大模型和智能体产品安全运行； 2.2面向第三方算力环境提供安全可信的大模型数据与资产保护能力。 【任职要求】 1、2027届毕业，获得博士学位，人工智能、数学、计算机、信息安全等相关专业； 2、具备扎实的计算机科学与数学基础，对数据结构、算法、操作系统和分布式系统有良好理解，熟悉概率统计、信息论、数值线性代数，或程序分析等基础知识； 3、理解智能体应用范式、Transformer、注意力机制等核心原理，熟悉大模型的高效微调（如LoRA/QLoRA）与对齐范式；理解KV-Cache、量化等大模型推理机制； 4、在密码学、数据安全、隐私计算、人工智能安全等领域具备扎实的基础知识，在智能体/工具生态安全、大模型用户隐私保护、模型资产保护等方向有经验者优先； 5、熟练掌握至少一种主流编程语言（如Python/C++/Go），有良好的代码工程习惯；熟练使用PyTorch等框架； 6、具备出色的问题分析和解决能力，自主探索新技术与解决方案的能力，以及良好的沟通与团队协作能力；在CCS、NDSS、IEEE S&P、USENIX Security等安全顶级会议或期刊上发表论文者优先。