千问事业部-安全大模型运营专家-北京

1、深入研究大模型在对话交互、内容生成等场景下的潜在安全风险（如幻觉、偏见、诱导违规、价值观偏差等）。结合国家相关法律法规及监管要求，制定并持续迭代千问大模型的内容安全审核规则、风险分类分级标准及防御策略； 2、负责日常及突发风险事件的监测与处置，通过Badcase挖掘与归因分析，快速响应并解决模型输出中的安全问题。针对提示词注入、越狱攻击等新型攻击手段，设计针对性的防御机制与拦截策略，持续降低模型回复的风险率； 3、协同算法与产品团队，构建高质量的“红队测试”数据集与安全对齐语料。通过Prompt优化、RAG（检索增强生成）干预、安全代答策略等手段，推动模型在安全维度的持续调优，实现“以模护模”的自动化风险拦截； 4、建立大模型内容安全评估体系，在模型迭代、备案及上线前开展全方位的安全评测与压力测试，输出风险评估报告，确保模型在全生命周期内的合规性与鲁棒性。 【任职要求】 1、本科及以上学历，3年及以上互联网内容安全、风控运营或大模型相关经验，熟悉生成式人工智能服务管理暂行办法等相关法律法规； 2、对大语言模型（LLM）的技术原理有深入理解，熟悉Prompt Engineering（提示词工程）、RAG、SFT（监督微调）等技术在内容风控中的应用；具备极强的风险敏锐度，能够精准识别政治敏感、伦理道德、隐私泄露等各类潜在风险； 3、具备优秀的数据分析能力，能够通过数据洞察发现风险本质，逻辑清晰，能够独立输出系统性的风险治理方案与策略文档； 4、具备出色的跨部门沟通协调能力，能够高效联动算法、研发、产品等团队推动策略落地；具备良好的抗压能力和责任心，对内容安全红线有高度的敬畏感。 加分项 1、有头部大模型厂商、内容平台安全风控经验者优先； 2、熟悉红蓝对抗演练，有实际的大模型攻防实战经验者优先。