牛大妈在社招职位搜索社区安全机审策略运营 有 9 条结果

小红书(xiaohongshu) 社区安全策略运营

全职 北京,上海,武汉
招聘城市:北京,上海,武汉
岗位职责:
1、深入理解内容安全/商业安全的业务场景和治理需求,并独立完成策略的构建、验证和上线。
2、负责安全策略全生命周期的管理流程,包括但不限于灰度、小流量、召回抽样评估、能力迭代、下线等;
3、掌握图文、视频等多模态风险的常见识别手段,能根据不同的风险特征,精准选型并应用合适的算法模型解决问题。
4、构建并监控策略核心数据漏斗,通过深度数据下钻分析,定位策略缺陷和风险漏洞,并提出行之有效的优化方案,驱动策略效果持续提升。
5、强目标导向协同算法工程师、软件开发工程师、内容治理运营、产品等团队,对齐目标,统筹资源,共同达成安全治理目标。
6、具备产品意识,不仅满足于解决单点问题,更致力…

小红书(xiaohongshu) 社区安全策略运营

全职 北京,上海,武汉
招聘城市:北京,上海,武汉
…效果验证及最终上线落地,确保体系能有效识别并拦截风险。
2、负责社区高危红线安全策略全生命周期管理,通过标准化流程保障策略长期有效,避免风险识别能力衰减。
3、将内容安全治理需求转化为基于大模型的识别方案,通过PE/RAG/Workflow等技术持续实验和优化,不断提升策略的准确率与召回率。
4、通过图文、视频等多模态风险的常见识别手段,根据不同的风险特征,精准选型并应用合适的算法模型解决治理问题。
5、构建并监控策略核心数据漏斗,通过深度数据下钻分析,定位策略缺陷和风险漏洞,输出切实可行的优化方案,推动风险识别效果持续迭代提升。
6、强目标导向,协同算法工程师、软件开发工程师、内容治理运营

小红书(xiaohongshu) 社区安全策略高级专家

全职 北京,上海,武汉,杭州
招聘城市:北京,上海,武汉,杭州
岗位职责:
1、深入理解内容安全/商业安全的业务场景和治理需求,并独立完成策略的构建、验证和上线。
2、负责安全策略全生命周期的管理流程,包括但不限于灰度、小流量、召回抽样评估、能力迭代、下线等;
3、掌握图文、视频等多模态风险的常见识别手段,能根据不同的风险特征,精准选型并应用合适的算法模型解决问题。
4、构建并监控策略核心数据漏斗,通过深度数据下钻分析,定位策略缺陷和风险漏洞,并提出行之有效的优化方案,驱动策略效果持续提升。
5、强目标导向协同算法工程师、软件开发工程师、内容治理运营、产品等团队,对齐目标,统筹资源,共同达成安全治理目标。
6、具备产品意识,不仅满足于解决单点问题,更致力…
招聘城市:上海
…描述
工作职责:
1.负责内容安全类平台核心模块规划与设计:内容安全规则引擎、策略管理平台、多模态审核工作台、内容处置中心、弹幕 / 评论风控平台等;
2.设计可视化规则引擎,支持内容风险规则配置、灰度发布、阈值调优、自动回滚,支撑策略快速迭代;
3.搭建人机协同审核工作流,打通预筛、人工复核、申诉闭环,提升内容审核效率;
4.落地内容安全数据看板:多模态风险大盘、效果监控、审核质量报表、舆情风险预警看板;
5.搭建自动化处置中心,实现视频 / 内容删除、降权、限流、打标、禁言等一键处置;
6.深度对接内容安全策略专家、审核运营、算法团队,落地全链路平台能力,适配大模型审核工具需求…
招聘城市:上海
社区治理流程优化:协同算法、、人多部门,搭建策略产品和生态能力,优化审核环节,完善用户举报流程,为策略运营和审核执行的效率负责,提升用户体验和up主体验;
3、社区治理外宣沟通:站在平台导向、舆论环境和核心用户体验的立场,通过平台公约、治理公告、用户活动、通知透传等方式,向平台用户解释治理主张、宣传治理成果。
工作要求:
1、本科及以上学历,具备2年及以上相关工作经验,有社区生态治理和内容安全策略的经验者优先;
2、对数据有敏感性,擅长通过数据指标异动归因分析定位问题,会平衡成本收益测算ROI,掌握SQL,掌握统计分析方法和工具;
3、了解大模型逻辑,擅长使用AI工具提效…
招聘城市:上海
…反作弊)的策略设计与迭代;
2.监控业务数据,挖掘风险模式、作弊行为,设计识别防控策略
3.制定风险分级、触发条件、处置逻辑、升级机制,落地差异化管控;
4.搭建策略监控指标体系,输出优化方案,持续提升风控效果;
5.深度挖掘平台潜在风险,反哺安全治理,协同算法定义模型需求;
6.对接运营优化人流程,打通 - 人协同链路;
7.跟踪黑灰产手法、行业动态,保持策略前瞻性,保障合规治理。
工作要求:
1.本科及以上学历,理工科优先,3 年以上内容安全 / 风控策略 / 策略运营经验;
2.视频 / 直播社区治理策略经验,熟悉黑灰产对抗逻辑;
3.熟练 SQL,具备数据分析能力,Python 数据分析能力优先;
4.熟悉内容审核全链路,了解规则引擎、模型打分、人流程…
招聘城市:上海
…等),识别并治理违规内容和社区氛围风险,为平台内容安全提供核心技术支撑。
● 基于LLM技术构建高鲁棒性的智能风控系统,从海量用户文本(如标题、评论、私信、弹幕、ASR/OCR文本等)中精准识别风险内容与异常行为模式。
● 研发业界领先的内容安全解决方案,在文本风险识别、恶意意图理解、对抗样本防御等方向实现高精度、高泛化、强对抗能力。
● 主导算法流程闭环:从数据标注策略制定、模型训练与优化、在线服务部署到效果评估与迭代,确保技术方案在真实业务场景中高效落地。
● 协同产品、安全运营、审核、合规等多团队,将算法能力转化为可解释、可运营、可追溯的风险治理策略,支撑平台内容生态的健康可持续发展。
工作要求:
● 计算科学…
招聘城市:上海
…B站海外分发内容的审核链路搭建,完善送审处置策略和决策仲裁逻辑,在人资源有限的条件下实现人机协同效率最优。
3.负责B站海外审核台的AI工具建设,为审核员提供多语种翻译和跨文化理解的功能和工具,提升人效率和准确率。
4.负责用户举报申诉、处置沟通、平台教育的产品逻辑和功能工具建设,提升用户和创作者的审核和反馈体验。
工作要求:
1. 3年以上平台治理产品、审核中台产品的工作经验,有从0到1搭建平台审核能力的经历,有海外视频平台或社区的工作经历优先。
2.对AI大模型的发展趋势和在安全生态治理中的应用非常了解,并能提出适配不同平台现状的…

哔哩哔哩(bilibili|b站) 高级画师

全职 上海
招聘城市:上海
…包括社区公约、平台规则、审核细则、处置标尺等多级标准体系。
2.依据社区规则体系中的分类分级问题,拆解风险识别特征,通过模型、信号召回策略等方式做好实时/离线、先/召回的风险识别,接入治理流程。
3.调动各类产研资源,对海外分发内容搭建体系化的干预处置策略,包括审核处置、功能限制、推荐搜索干预、区域分发限制、提示打标、教育提醒等。
4.负责审核透传、规则教育、创作提示的up主沟通策略的搭建,配合海外重要up主和核心用户的针对性单点运营
工作要求:
1.3年以上内容社区的平台治理运营工作经验,有海外视频平台或社区的工作经历优先。
2.对AI大模型的发展趋势和在安全生态治理中的…