基座模型安全产品 - AI创新业务

岗位职责

团队介绍：字节跳动AI创新业务团队，在这里你将有机会参与到行业前沿产品的规划设计，开拓自己的行业视野，与先进团队共同成长。 1、负责豆包基座大模型安全能力建设，结合真实用户场景与风险研究，定义模型在正常、边界及高风险场景下的理想表现，持续提升模型安全性和用户体验； 2、建设豆包内容安全评测体系，完善风险分类、评测集、判定标准和版本准出机制，交付准确、稳定、可追溯的评测结论； 3、制定安全训练数据与标注标准，围绕模型薄弱能力开展案例分析、数据构造和质量评估，将线上问题与对抗发现转化为可用于训练和回归验证的数据资产，推动安全对齐效果迭代； 4、推动自动化评测与风险发现能力建设，探索模型辅助评判、自动化攻防及评测工具的产品化，建立人工校准与质量保障机制，提升风险覆盖、评测效率和结论可靠性； 5、协同算法、工程、数据、运营等团队，完成问题发现、归因分析、方案落地与效果验证的闭环，综合评估风险漏放、正常请求误拒和回答有用性，推动模型安全能力持续改善。

任职要求

1、本科及以上学历，3年及以上安全产品相关工作经验，具备安全策略/内容治理/模型评测等相关领域的实践经验； 2、对大模型训练方式有一定了解，能够将复杂业务问题转化为明确的模型训练方案； 3、具备较强的评测设计与数据分析能力，能够独立开展样本分析、指标设计、实验评估和问题归因，关注评测覆盖、判定一致性及结论可信度； 4、具备较强的主动学习、跨团队沟通和项目推进能力，推进落地并验证效果。