大模型内容安全产品 - AI创新业务

岗位职责

团队介绍：字节跳动AI创新业务团队，在这里你将有机会参与到行业前沿产品的规划设计，开拓自己的行业视野，与先进团队共同成长。 1、负责对话安全风险的发现与治理：跟踪相关部门要求、舆情和线上负面案例，分析误伤与漏放数据，定位策略问题并推动规则、模型与工程侧优化，持续平衡安全水位与用户体验； 2、持续完善豆包对话大模型的内容安全策略体系，覆盖用户图文输入、模型思考、生成回复全链路，针对多轮对话、VLM、实时音视频通话等复杂场景设计安全策略方案； 3、对接大模型安全训练与评测团队，将策略侧发现的风险沉淀为训练语料和评测题集，反哺模型安全能力提升； 4、支撑新业务、新功能的安全评估与接入，输出安全方案并验收。

任职要求

1、3年以上内容安全、风控或策略产品相关经验，有大模型/AIGC内容安全、UGC审核策略经验者优先； 2、对模型后训练（SET、RL）、提示工程、决策模型、Agent等大模型技术有基本理解，能与算法、研发深入讨论方案； 3、数据敏感度高，能独立完成案例归因、策略效果评估和误伤分析，熟练使用SQL等分析工具； 4、熟悉内容安全框架，对涉政、色情等风险类型有体系化认知，有相关部门对接或应急处置经验者优先； 5、自驱力强，能在多业务方、多团队协作中推动事项闭环，对AI安全行业发展有自己的判断和技术前瞻性。