牛大妈在社招职位搜索Trust Safety平台产品经理 Product M 有 3 条结果

招聘城市：北京，上海
岗位职责：
我们正在寻找一位平台产品经理加入Trust & Safety（信任与安全）团队，共同打造下一代AI Native安全治理平台与系统，服务全球内容平台生态。
你将与工程、机器学习、政策及运营团队紧密合作，设计 AI 驱动的平台能力，支持全球内容生态中的审核、调查与安全决策。
主要职责
1、负责 AI Native Trust & Safety平台的产品愿景、战略及路线图，打通风险治理全流程，包括风险感知、识别、审核、处置及评估。
2、设计并推动建设AI Native的安全治理平台与系统，支持自动化风险审核、风险分析及辅助决策。
3、整合分散的审核工具、风控系统及运营流程，构建统一平台以提升治理效率、系统可扩展性及风险可视化能力。
4、与工程、机器学习、政策及运营团队合作…

招聘城市：北京，上海
…标准。
5、优化平台治理结果的用户沟通方式，在不同用户触点中保持清晰、透明且一致的治理体验。
6、与工程、设计、政策、运营及数据团队协作，共同打造以用户为中心的治理产品能力。
7、通过用户反馈、行为数据及治理指标持续优化产品，提升平台治理透明度及用户信任度。
任职要求：
1、3年以上产品经理经验，有用户产品、Trust & Safety、平台治理或复杂平台产品经验优先。
2、具备较强用户同理心，能够为复杂规则或治理场景设计清晰易理解的用户沟通体验。
3、有申诉流程、举报系统、通知中心、规则透传或治理透明度相关产品经验者优先。
4、具备优秀的跨团队协作能力，能够推动工程、设计、政策及运营团队协同推进产品落地。
5、具备…

招聘城市：上海，北京
岗位职责：
职位概述
作为小红书Trust-and-Safety团队核心成员，负责制定生成式大模型相关安全防护和内容治理策略，保障生成式应用的安全合规性，优化AIGC内容在平台上的检测和标识。
主要职责
1.负责生成式大模型安全防护产品策略的规划、设计和迭代，包括Safety Alignment、发prompt injection、反model jailbreak、风险生成内容过滤和实时检测机制。
2.负责设计多模态 AIGC 安全检测体系（文本/图像/视频），覆盖违规内容识别、伪造判定、真实度评估、深度伪造检测、模型生成技术追踪等方向。
3.持续跟踪和分析当前生成式AI技术的发展趋势，收集相关信息，并推动防御手段的更新和升级，以确保系统的安全性。
4.协同算法与研发团队，推动AIGC检测技术落地…