大模型内容安全产品-猫箱

岗位职责

1、负责AI娱乐产品猫箱的内容安全，建设图文、音视频等多模态内容的全链路安全策略体系，定义核心风险指标、体验围栏指标，系统化解决误伤与漏放，平衡安全管控与用户体验及业务发展； 2、面向风险、体验、效率等问题，将内容安全工作流中的知识和生产能力转化为Agent、Skill，推进内容安全策略Workflow AI化，实现提质提效； 3、负责协调算法建设及优化安全能力，包括但不限于CV（计算机视觉）、VLM（视觉语言模型）、RAG（检索增强生成），评估模型在风险知识泛化、成本等方面的表现，确保适配解决特定业务场景下的内容安全风险。

任职要求

1、5年以上内容安全、风控策略相关领域工作经验，具备AIGC内容安全经验者优先； 2、对LLM、Agent在内容安全领域的应用有实践经验，具备扎实的Prompt Engineering能力（结构化表达、模板化设计、效果测试验证、调优迭代）； 3、深刻理解内容安全业务，具备出色的风险判断力和业务洞察力； 4、有较强的自驱力、学习能力和钻研精神，善于跨团队沟通协作。