蔚来AGI超星计划-AI Agent安全关键算法和系统研究

课题介绍 本课题旨在应对智能网联汽车“全域Agent化”（智舱、智能辅助驾驶、智企）带来的根本性安全范式变革。传统基于规则和特征匹配的安全手段，在应对自主、动态、多Agent协同的复杂系统时已然失效。为此，我们提出并研究 “以AI守护AI” 的核心思想，即构建一个内生的、AI驱动的安全基座。该基座能像“免疫系统”一样，主动感知、理解、评估并响应Agent系统自身在运行中产生的风险。主要的问题场景如： - 智企场景：研发、办公、供应链等企业数字化环境中的Agent，面临权限滥用、数据泄露、决策幻觉及多Agent共谋等风险。 - 智舱场景：多模态交互Agent面临对抗样本攻击（语音、视觉）、隐私泄露、伦理越界及服务滥用等风险。以及舱驾一体化场景下，规划决策Agent面临环境感知对抗、决策逻辑被诱骗、车云协同被干扰等新型安全挑战。 预期产出 - 典型场景下的 AI安全风险建模，交付原型攻击/防御算法与系统模块 - 交付具有开创性的研究报告或论文 【任职要求】 - 对Transformer、大语言模型有扎实的理论基础和实践经验，对 Agent 应用开发框架和主流应用场景有了解。 - 对AI安全领域有强烈兴趣，了解对抗攻击、数据投毒、联邦学习、Agent安全评估等概念。 - 强大的系统性思维与问题定义能力：能够从复杂的现象中抽象出关键科学问题，并设计清晰的研究路径。 - 硕士及以上在读，计算机专业或AI安全方向，已发表安全顶会论文者优先； - 实习时长：不少于6个月。