牛大妈在社招职位搜索社区内容安全策略运营 有 70 条结果

小红书(xiaohongshu) 社区内容安全策略运营

全职 北京,上海,武汉
招聘城市:北京,上海,武汉
岗位职责:
1、熟悉社区时政相关内容风险形式及内容安全治理的协作链路,负责事前安全问题的发现,通过制定异常策略前置识别、预警及解决
2、对业务数据及内容风险敏感,基于业务洞察和数据分析建设风险异动指标和风险监测方法,通过大盘数据异动书写风险分析报告并提出治理优化建议
3、有大模型运营经验,在模型测试与上线优化等有较好的实践经验,能联动算法产品并结合业务场景制定差异化的风险识别策略
4、拆解和复盘社区实发风险与事故,制定针对性应对方案。
任职要求:
1、本科及以上学历,计算机/数学/新闻学/情报学等专业,有4年以上相关业务经历
2、能熟练使用EXCEL/SQL等工具,有数据分析经验…
招聘城市:北京
岗位职责:
1、负责社区内容安全的治理策略产品和运营,需要基于监管、舆情、用户的需求,提供应急保障及治理策略
2、收集和感知关于该专项的各类风险信息,对问题进行全面、专业的分析和定位,明确治理范围和治理方向。
3、通过项目管理的方式,充分拉通GA、PR、算法、数分、审核等角色,实现项目目标。
任职要求:
1、本科及以上学历,嗅觉敏锐,对监管、执法侧的导向判断准确
2、具备风险感知、情报研判的体系搭建能力
3、有社区内容/电商/商业化业务场景的安全治理能力
4、注重平台内问题治理能力建设
招聘城市:北京,上海,美国,新加坡
…具备良好的分析能力、运营判断力以及在快速变化的国际环境中应对复杂风险场景的能力。
主要职责
1、监控平台风险并建立风险预警机制,确保重大风险能够被及时发现并快速响应。
2、协调跨部门资源处理风险事件,包括违规内容、异常账号行为以及黑产攻击等问题。
3、与审核团队紧密合作,推动风险治理策略在一线落地,并持续优化相关运营流程。
4、通过风险数据和运营指标分析识别新型风险趋势,评估风险处置效果并推动风险治理能力持续提升。
任职要求:
1、科及以上学历,专业不限,计算机、数据、法律、公共管理相关背景优先。
2、3 年及以上互联网风控、Trust & Safety 运营内容审核或相关运营经验。
3、熟悉内容安全风险、黑产手法及…

小红书(xiaohongshu) 事故策略运营(风险感知方向)

全职 北京,上海,武汉
招聘城市:北京,上海,武汉
…建立并维护风险感知体系,通过内容趋势、异常数据、舆情、投诉、外部情报、竞品动态等渠道,提前识别高风险内容 / 行为 / 场景;
2. 跟踪重大节日、热点事件、敏感时段的风险变化,形成专项风险感知方案,包括但不局限于社区安全/社区生态/交易&商业化规范等;
3. 能够针对已发生事故进行根因分析,定位漏判、逃逸、规则盲区、模型短板等问题输出专业性分析报告;
4. 能够对苗头性、扩散性、隐蔽性风险进行实时监控、研判、预警,输出风险简报与处置建议;
5. 能够跨团队协同承接专项治理与闭环推进,包括但不局限于高频事故、黑产攻击、批量违规等问题,发起专项治理行动,制定治理目标、打法、验收标准等,推动跨团队(审核、产品、算法、策略运营)落地整改措施,确保问题…

小红书(xiaohongshu) 社区安全机审策略运营

全职 北京,上海,武汉
招聘城市:北京,上海,武汉
岗位职责:
1、深入理解内容安全/商业安全的业务场景和治理需求,并独立完成机审策略的构建、验证和上线。
2、负责安全策略全生命周期的管理流程,包括但不限于灰度、小流量、召回抽样评估、能力迭代、下线等;
3、掌握图文、视频等多模态风险的常见识别手段,能根据不同的风险特征,精准选型并应用合适的算法模型解决问题。
4、构建并监控策略核心数据漏斗,通过深度数据下钻分析,定位策略缺陷和风险漏洞,并提出行之有效的优化方案,驱动策略效果持续提升。
5、强目标导向协同算法工程师、软件开发工程师、内容治理运营、产品等团队,对齐目标,统筹资源,共同达成安全治理目标。
6、具备产品意识,不仅满足于解决单点问题,更致力…

小红书(xiaohongshu) 社区安全机审策略运营

全职 北京,上海,武汉
招聘城市:北京,上海,武汉
…风险。
2、负责社区高危红线安全策略全生命周期管理,通过标准化流程保障策略长期有效,避免风险识别能力衰减。
3、将内容安全治理需求转化为基于大模型的识别方案,通过PE/RAG/Workflow等技术持续实验和优化,不断提升策略的准确率与召回率。
4、通过图文、视频等多模态风险的常见识别手段,根据不同的风险特征,精准选型并应用合适的算法模型解决治理问题。
5、构建并监控策略核心数据漏斗,通过深度数据下钻分析,定位策略缺陷和风险漏洞,输出切实可行的优化方案,推动风险识别效果持续迭代提升。
6、强目标导向,协同算法工程师、软件开发工程师、内容治理运营、产品等团队,对齐目标,统筹资源,共同达成安全治理目标。
任职要求:
1…

小红书 社区蓝军攻防策略运营

全职 北京,武汉,上海
招聘城市:北京,武汉,上海
…业务潜在风险,设计和制定蓝军攻防策略,开展风险核验、风险信息固证、钓鱼实施以及应急线索挖掘、模拟攻防等工作;
2、协同产品和研发,基于安全审核业务搭建全链路的蓝军模拟攻防平台,推动实现和优化业务全链路的风险攻防平台产品设计应用;
3、监控产品风险动向和发酵趋势,通过风险养号、违规用户行为研究等手段,执行前端风险研判和挖掘;
4、持续优化蓝军风险信息搜集反馈和业务流程机制,定期输出整体的风险反馈如月报、周报等;
5、配合风险治理团队,围绕蓝军发现的业务风险,助力达成业务风险治理目标。
任职要求:
1、本科及以上学历,3年以上互联网行业经验,2年及以上安全策略运营工作经验,有风险…
招聘城市:上海
…并定义B站社区应治理的问题(如低俗、引战、歧视等)等,通过内容审核、推荐搜索干预、账号治理等方式,形成体系化的治理策略,为生态治理目标和用户体验指标负责;
2、社区治理流程优化:协同算法、机审、人审多部门,搭建策略产品和生态机审能力,优化审核环节,完善用户举报流程,为策略运营和审核执行的效率负责,提升用户体验和up主体验;
3、社区治理外宣沟通:站在平台导向、舆论环境和核心用户体验的立场,通过平台公约、治理公告、用户活动、通知透传等方式,向平台用户解释治理主张、宣传治理成果。
工作要求:
1、本科及以上学历,具备2年及以上相关工作经验,有社区生态治理和内容安全策略的经验者优先…

美团(meituan) 内容与商品合规策略专家

全职 北京,上海
招聘城市:北京,上海
…大数据、云计算、安全等核心技术能力,以及研发效能平台、企业应用平台等公共服务,为业务提供稳定安全、扩展易用、技术领先的平台技术和产品服务。
在这里,我们会参与到最前沿的技术研发和探索;能够接触超规模集群、海量数据,挑战高复杂业务场景,有机会与业界一流的工程师一起并肩前行。
在这里,我们有超强的技术氛围,持续向社区贡献业界实践,加速行业技术发展;我们有完善的互联网学习生态圈,重视底层逻辑和方法论,助力职业生涯的非线性成长。
真诚地邀请你,和我们一起驱动技术发展,创造行业价值。
岗位职责:
1、负责内容与商品合规的策略运营,包括业务接入审核、风险评估、安全策略制定与落地、产品链路完善、推动NLP/CV…

小红书(xiaohongshu) 【热招】安全运营专家

全职 北京,上海
招聘城市:北京,上海
岗位职责:
1、负责社区内容安全的治理策略产品和运营,需要基于监管、舆情、用户的需求,提供应急保障及治理策略
2、收集和感知关于该专项的各类风险信息,对问题进行全面、专业的分析和定位,明确治理范围和治理方向;
3、通过项目管理的方式,充分拉通GA、PR、算法、数分、审核等角色,实现项目目标。
任职要求:
1、本科及以上学历,嗅觉敏锐,对监管、执法侧的导向判断准确;
2、具备风险感知、情报研判的体系搭建能力;
3、有社区内容/电商/商业化业务场景的安全治理能力;
4、注重平台内问题治理能力建设。
招聘城市:上海
…禁言等一键处置;
6.深度对接内容安全策略专家、审核运营、算法团队,落地机审全链路平台能力,适配大模型审核工具需求;
7.输出 PRD、原型设计,协同工程推进开发上线,持续优化机审平台稳定性与易用性。
工作要求:
1.本科及以上学历,3 年以上 B 端 / 中后台产品经理经验,内容安全、审核中台、机审平台产品经验优先;
2.熟悉视频 / 直播 / 弹幕内容安全治理逻辑,精通规则引擎、机审系统、审核工作台产品设计;
3.优秀抽象逻辑能力,可将复杂内容审核流程转化为标准化平台产品方案;
4.跨部门沟通协作能力强,项目落地推进能力突出;
8.熟练 SQL,具备数据驱动产品决策能力;
5.了解多模态 / 大模型审核技术,对内容风险敏感,合规意识极强。…

小红书(xiaohongshu) 社区安全大模型策略运营

全职 北京,上海,武汉
招聘城市:北京,上海,武汉
岗位职责:
1、负责将内容安全/商业安全的治理需求,转化为基于大模型的识别方案。通过PE/RAG/Workflow等技术持续实验和优化,不断提升策略的准确率与召回率。
2、能够开发用于安全场景的Agent和Workflow,实现复杂风险场景的自动化识别、推理和处置。
3、作为大模型技术在安全领域的专家,强目标导向地协同算法、研发、治理、产品等团队,明确技术路径,统筹项目资源,共同实现安全目标。
4、具备产品意识,不仅满足于解决单点问题,更致力于优化产品工具、提升整体安全运营的效率和智能化水平。
任职要求:
1、具备2年及以上大模型相关项目的实践经验,有安全风控经验优先。
2、了解大模型的算法原理,熟悉至少一种主流大…

小红书(xiaohongshu) 安全大模型策略运营

全职 北京,上海,武汉
招聘城市:北京,上海,武汉
…完成社区安全风险定性定级,支撑安全业务治理目标实现。
2、规则撰写:基于风险定义,运用agent工具,产出适用于机器/人审的清晰准确的审核执行手册,确保规则落地质量。
3、风险识别:将社区安全的复杂治理需求,转化为基于大模型的识别方案,通过pe/rag/workflow等技术持续优化,提升策略的准确率和召回率
4、项目管理:作为风险和策略专家,协同算法、治理产品、研发等团队,明确治理链路和技术路径,统筹项目资源,实现安全治理目标。
任职要求:
1、本科及以上学历,3年社区内容治理、规则运营策略模型运营经验,同时兼具治理和策略模型经验者优先。
2、熟悉互联网内容治理体系,对内容和用户的生态与风险有深刻的认知,了解内容平台…
招聘城市:上海
…色情 / 涉政 / 广告 / 欺诈 / 反作弊)的策略设计与迭代;
2.监控业务数据,挖掘风险模式、作弊行为,设计识别防控策略
3.制定风险分级、触发条件、处置逻辑、升级机制,落地差异化管控;
4.搭建策略监控指标体系,输出优化方案,持续提升风控效果;
5.深度挖掘平台潜在风险,反哺安全治理,协同算法定义模型需求;
6.对接运营优化人审流程,打通机审 - 人审协同链路;
7.跟踪黑灰产手法、行业动态,保持策略前瞻性,保障合规治理。
工作要求:
1.本科及以上学历,理工科优先,3 年以上内容安全 / 风控策略 / 策略运营经验;
2.视频 / 直播社区治理策略经验,熟悉黑灰产对抗逻辑;
3.熟练 SQL,具备数据分析能力,Python 数据分析能力优先;
4.熟悉内容审核全链路,了解规则引擎…

小红书 社区回查策略运营

全职 北京,武汉,上海
招聘城市:北京,武汉,上海
…平台内容安全/内容生态风险治理的回查运营工作,包括对于各类违规内容工作流的响应处理、治理专项内容拆解和策略落地;
2、负责应急或专项的内容安全/内容生态回查策略的方案规划与策略配置、项目推进,提升系统能力的升级;
3、灵活应用平台工具、数据监测,分析存在和潜在的风险漏洞,制定内容安全/内容生态回查策略与优化方案;
4、做好承接上下游业务需求,串联产研、业务、审核等协同方,推动业务关键问题解决;
5、较好的文档编写能力,项目管理意识,自主对于项目进行回收复盘,产出价值文档。
任职要求:
1、本科及以上学历,内容审核行业3年以上经验,2年以上回查策略运营经验,具备较高的新闻敏感度、内容研判…

小红书 社区事故策略运营

全职 北京,武汉,上海
招聘城市:北京,武汉,上海
…平台内容安全/内容生态风险治理的回查运营工作,包括对于各类违规内容工作流的响应处理、治理专项内容拆解和策略落地;
2、负责应急或专项的内容安全/内容生态回查策略的方案规划与策略配置、项目推进,提升系统能力的升级;
3、灵活应用平台工具、数据监测,分析存在和潜在的风险漏洞,制定内容安全/内容生态回查策略与优化方案;
4、做好承接上下游业务需求,串联产研、业务、审核等协同方,推动业务关键问题解决;
5、较好的文档编写能力,项目管理意识,自主对于项目进行回收复盘,产出价值文档。
任职要求:
1、本科及以上学历,内容审核行业3年以上经验,2年以上回查策略运营经验,具备较高的新闻敏感度、内容研判…

小红书 社区举报规则策略运营

全职 北京,武汉
招聘城市:北京,武汉
…平台举报业务内容审核规范,为平台的安全和生态治理提供依据;
2、基于大盘内容风险域和审核标准,叠加举报场景判罚原则,制定和维护贴合小红书举报的内容审核标准,对规则的合理性和可执行性负责;
3、监测和评估各风险域在举报场景的治理情况,通过case分析、感知内外部的风险变化等迭代规则,对业务治理的范围和问题定义进行有效反哺;
4、协作上下游链路,承接新场景的标准制定并保障落地到人审,不断优化规则以提升人审质量。
任职要求:
1、本科及以上学历,3年社区内容治理和规则运营经验,5年以上的社交内容方向经验,举报方向优先;
2、熟悉互联网内容治理体系,对内容和用户…

小红书(xiaohongshu) 社区安全机审策略高级专家

全职 北京,上海,武汉,杭州
招聘城市:北京,上海,武汉,杭州
岗位职责:
1、深入理解内容安全/商业安全的业务场景和治理需求,并独立完成机审策略的构建、验证和上线。
2、负责安全策略全生命周期的管理流程,包括但不限于灰度、小流量、召回抽样评估、能力迭代、下线等;
3、掌握图文、视频等多模态风险的常见识别手段,能根据不同的风险特征,精准选型并应用合适的算法模型解决问题。
4、构建并监控策略核心数据漏斗,通过深度数据下钻分析,定位策略缺陷和风险漏洞,并提出行之有效的优化方案,驱动策略效果持续提升。
5、强目标导向协同算法工程师、软件开发工程师、内容治理运营、产品等团队,对齐目标,统筹资源,共同达成安全治理目标。
6、具备产品意识,不仅满足于解决单点问题,更致力…

美团(meituan) 内容安全策略产品专家

全职 北京,上海
招聘城市:北京,上海
…业界一流的工程师一起并肩前行。
在这里,我们有超强的技术氛围,持续向社区贡献业界实践,加速行业技术发展;我们有完善的互联网学习生态圈,重视底层逻辑和方法论,助力职业生涯的非线性成长。
真诚地邀请你,和我们一起驱动技术发展,创造行业价值。
岗位职责:
1. 负责以AI大模型为主内容安全策略的产品设计,构建并优化大模型输出风险内容的审核与过滤机制。
2. 深入理解平台内容管控政策,洞察内容安全风险,提出策略体系防控主链路的改进建议。
3. 结合美团业务不同阶段发展需要及场景特性,设计分层、弹性的防控方案,平衡业务正向价值和安全水位。
4. 协同算法、技术、运营、法务等团队,及时推动策略落地并跟踪监控执行效果。…
招聘城市:北京,上海
…不同市场社区氛围健康;
2. 设计本地化的优质创作者激励与负面行为惩戒机制,平衡平台内容供给与用户体验;
3. 利用分市场的健康度指标,结合数据分析优化分发与生态治理策略
4. 与运营、市场团队协作,定制生态产品方案,促进正向内容增长。
任职要求:
1.本科及以上学历,计算机、产品管理、法律、国际关系、数据科学等相关专业优先;
2.2 年及以上互联网产品或安全策略相关经验,具备海外市场或跨国项目经验加分;
3.具备将内容生态策略转化为可落地的产品功能或算法规则的能力;
4.英语流利(工作语言),具备跨文化沟通能力,能与多时区、多语言团队协作;
5.数据分析能力强,能熟练使用 SQL、Tableau、Excel 等进行策略效果…