AI安全工程师

【岗位职责】 1. 大模型自动化红队建设 - 负责构建针对公司自研微调大模型（LLM）的自动化红队测试框架。 - 设计并实施基于 Prompt Injection、Jailbreak 等攻击手段的测试用例，挖掘模型在安全性、合规性及幻觉方面的潜在漏洞。 - 建立模型安全评测基准（Benchmark），定期输出安全水位报告，确保模型上线前的安全质量。 2. 模型安全防御与优化 - 设计并落地推理侧的安全防御机制，如输入/输出过滤器（Guardrails）、拒绝检测机制等。 - 研究前沿的对抗防御技术（如对抗训练、鲁棒性优化），并探索其在业务场景中的落地。 3. AI安全体系建设 - 负责 AI 业务全生命周期的安全风险评估，制定数据安全与隐私保护规范。 - 跟踪学术界与工业界最新的 AI 安全动态（如 AAAI, ACL, USENIX Security 等顶会成果），将前沿技术转化为工程实践。 【岗位要求】 - 计算机、网络安全、人工智能等相关专业硕士及以上学历。 - 熟悉主流大语言模型（LLM）原理，理解 Transformer 架构、SFT、RLHF 等训练流程。 - 深入理解 LLM 的常见攻击方式（如 GCG, AutoDAN, Prompt Injection）及防御策略。 - 熟练掌握 Python，熟悉 PyTorch/TensorFlow 框架，有良好的工程代码习惯。 - 熟悉 LangChain、vLLM 等工具，有能力独立搭建自动化测试脚本或平台。 【加分项】 - 在 Kaggle、天池等平台的 AI 安全/对抗样本类比赛中获得过 Top 名次者优先。 - 在 AI 或安全顶会（如 CVPR, ICCV, AAAI, ACL, CCS, NDSS 等）发表过相关论文者优先。 - 了解传统网络/Web安全风险及防护方案者优先。 我们正处于AI业务爆发初期，你将作为核心成员，亲手搭建公司的 AI 安全基础设施，定义安全标准。