个推 社会招聘
AI应用 / Agent智能体安全专家
杭州 ·经验不限·学历不限
杭州市
薪资面议
前往 个推 官网投递
职位描述
1、负责大模型应用、AI智能体(Agent)安全体系建设,覆盖工具调用、业务上线全流程风险管控,输出AI安全规范、基线与落地流程。
2、深入研究Agent智能体安全机制,负责Skill工具链调用安全、多Agent协作隔离、恶意指令逃逸防御,解决智能体自主执行带来的越权、注入、数据泄露、高危操作风险。
3、负责AI应用安全攻防研究与风险治理,包括Prompt注入、模型越狱、敏感信息泄露、恶意工具调用等风险的检测与防御体系建设。
4、搭建企业级AI安全检测与防护平台,包含Prompt安全校验、Agent行为审计、AI操作日志溯源、异常行为风控能力,支撑业务AI应用规模化上线。
5、负责AI应用安全测试、渗透测试、安全加固、应急响应、重大安全事件处置。
6、跟进业界AI安全前沿攻防、框架漏洞(LangChain/LangGraph/AutoGen/AgentScope等),沉淀攻防案例、威胁规则、安全基线,持续迭代AI安全防护策略。
最后确认在招:2026-09-02 19:23:13 · 来源平台:getui