医疗大模型安全策略产品经理-小荷健康

1、负责医疗大模型安全能力建设，围绕医疗安全、伦理合规、偏见与公平性等方向，定义医疗大模型的安全能力边界，并持续推动能力落地和效果提升； 2、基于对医疗应用场景和风险的理解，抽象医疗大模型安全能力，并拆解为模型训练和评测所需的能力体系、任务树与评估标准，与算法研发团队协作推进安全策略落地； 3、设计和制定医疗大模型安全相关的评测标准与评测方法，包括但不限于规则评测、Rubric评测、对抗式评测等，构建可量化、可迭代的安全评测体系； 4、负责医疗大模型安全评测数据的采集、构建与维护，探索高质量人工数据与合成数据相结合的数据生产方式，确保数据质量满足安全评测和模型对齐的要求； 5、对模型安全评测结果进行分析和总结，识别模型在安全、伦理和偏见等方面的风险点，与算法团队协作，将评测结论转化为可执行的训练和优化策略，推动模型安全能力持续提升； 6、跟进大模型安全、对齐和评测领域的前沿研究与行业实践，并结合医疗场景特点，持续优化医疗大模型安全能力建设方法论。 【任职要求】 1、1-3年策略产品经理相关经验，具备一定的模型安全、模型评测或模型对齐基础； 2、对大模型训练与对齐方法（如SFT、RLHF等）有系统性理解，了解评测在模型迭代和能力提升中的作用，有AI评测相关经验者优先； 3、对AI安全、伦理、公平性等方向有浓厚兴趣，具备较强的逻辑抽象和问题拆解能力，能够将复杂问题转化为清晰的能力和评估体系； 4、具有良好的团队协作能力，能够在关注细节的同时，把握整体目标和优先级，推动跨团队合作与项目落地； 5、具备较强的学习能力和成长潜力，愿意长期投入医疗大模型安全与评测方向的深入研究和实践。