大模型安全训练 - 内容质量与数据服务平台

团队介绍：抖音内容质量与数据服务平台（简称CQC）归属于抖音集团，负责今日头条、抖音等产品内容和抖音集团商业内容的安全质量与体验。平台下设内容质量中心、商业生态与安全、生态治理与增长支持等业务，在全国20余个城市均有分布。 自成立以来，CQC持续守护抖音集团旗下包括抖音、今日头条、番茄小说、飞书、红果短剧等产品在内的安全、质量与体验，优化产品内创作与交流环境，且在各产品运营增长方面开展支持工作。 1、结合研发需求与内容安全标准，负责Prompt的撰写及Pipeline搭建生产工作，通过系统性测试与深度分析，持续提升模型安全防护能力； 2、持续探索Prompt攻击的新型形式与潜在场景，覆盖内容合规性、可靠性、鲁棒性等多维度测试，构建全面的安全测试体系； 3、负责已上线产品的安全巡检与效果评估，联动产品研发、策略等相关团队，精准识别并闭环线上安全风险，保障产品安保期风险可控、不外露； 4、协同各作业团队，完成产品研发需求相关的数据生产、分析与总结工作，通过数据提取与解读优化交付流程，保障交付质量与效率； 5、定期梳理日常工作案例，负责问题发现、归因分析、泛化延伸及闭环解决的全链路管理，沉淀可复用的业务经验与方法。 【任职要求】 1、2027届获得本科及以上学历，理工类、政治学类、新闻类等相关专业； 2、对AI领域有浓厚兴趣，熟悉AI语言模型的基本原理及相关专业名词，具备基础的Python能力，能够熟练运用SQL进行数据提取、筛选与分析，深入理解业务数据逻辑； 3、具备归纳总结、问题拆解与分析能力，拥有良好的团队沟通与协作意识，能够快速适应工作氛围； 4、工作严谨负责，具备主动思考与探索精神，能在业务推进中主动发现问题、提出优化建议，助力业务迭代升级。 加分项： 1、有大模型或内容安全相关实习经验，有Agent搭建线经验。