牛大妈在社招职位搜索"模型训练和推理工程方向" 有 1000+ 条结果

招聘城市:北京,上海
岗位职责:
【训练推理框架研发】
大模型hi lab AI Infra团队专注于大语言模型领域的前沿技术研究和落地,提供高性能、高可靠、可扩展的机器学习系统、丰富的异构计算资源和极致的端到端的机器学习服务体验,为公司提供核心技术能力和服务。
1、负责机器学习框架的研究与开发,服务于公司各个产品;
2、高效部署,优化NLP/多模态大模型核心业务模型;
【轻量化】
机器学习系统团队需要将传统或者新型的轻量化算法和工程有机结合起来进行加速,提高大语言模型训练或者推理性能的同时,通过算法手段尽可能降低效果损失。候选人将在以下几个方向进行深入探索和落地:
1、量化方向:负责但不限于大语言模型的低精度…

小红书(xiaohongshu) dots-模型结构算法工程师

全职 北京,上海,杭州
招聘城市:北京,上海,杭州
岗位职责:
关于团队
我们是公司核心的 LLM 预训练团队,负责下一代基座模型的架构设计与训练系统研发。
团队聚焦:
- Scaling Law
- 优化器与训练稳定性
- 长上下文与推理能力扩展
- 高效训练与推理
- MoE 与稀疏化架构
我们关注的不只是"把模型做大"。我们更关注:什么样的结构、优化与训练机制,能够让模型更高效地产生智能。
你将参与的方向
1. Scaling Law 与能力扩展
研究模型能力如何随着以下维度共同演化:
- 参数规模
- 数据规模
- Token 数量
- Inference Compute
- Context Length
你将参与设计大规模实验,并分析不同结构与训练策略下的 scaling behavior。
2. 新型模型结构探索
探索 Transformer 之后的结构优化方向,包括但不限于:
- MoE
- Hybrid Attention
- Retrieval-enhanced Architecture
以及:长…
招聘城市:北京
岗位职责:
1. 模型推理服务优化:
* 负责大语言模型(LLM)推理性能的优化,包括延迟降低、吞吐量提升和资源效率优化
* 开发和应用模型压缩技术(包括但不限于量化、稀疏化等)
* 优化推理框架,支持多种硬件平台(GPU、专用AI芯片)
* 设计并实现高效、稳定、可扩展的推理服务架构
2. 性能分析与调优:
* 建立性能基准测试框架,持续监控和评估推理性能
* 分析性能瓶颈,提出并实施优化方案
* 针对不同应用场景(实时对话、批量处理等)定制优化策略
3. 技术创新与落地:
* 跟踪最新研究成果,将前沿优化技术应用到生产环境
* 与算法团队合作,参与模型架构的推理友好设计
* 编写高质量的技术文档和最佳实践指南
岗位要求:
1.必备条件:;
2.计算机、软件工程、人工智能等…

小红书(xiaohongshu) 基础大模型算法专家

全职 上海,北京,杭州
招聘城市:上海,北京,杭州
岗位职责:
1、预训练:模型架构设计和实现,持续打磨多阶段预训练技巧,结合自动化和人工筛选,持续迭代化数据配比方案(质量、类别分布、难度等),训练全尺寸Dense和MoE模型,以及探索Hybrid架构、Diffusion训练/推理等新一代大模型范式;
2、后训练:SFT数据合成、拒绝采样、数据配比、模型训练,样本级标签体系建设,RL数据合成、Reward Model设计、router replay、RL算法创新,显著提升alignment阶段模型生成能力;
3、数据&评测:持续改进数据体系pipeline,包括:数据收集、清洗、去重和配比等,合成各种高质量agentic/reasoning训练数据,提升模型通用能力;持续完善大模型评估体系和Bench,能有效评估STEM、math、code、知识、指令跟随、多语言等维度能力。
任职要求:
1、背景: 计算机、电子、数学等相关专业…
招聘城市:北京
岗位职责:
1.负责生成式大模型预训练相关的工作,包括但不限于:大规模模型预训练,长文本预训练,线性模型结构探索;
2.探索与跟进前沿技术,寻求技术突破,推动机器在AIGC能力的提升和突破;
3.探索高效的模型知识嵌入方法以及模型知识在线学习更新;
4.探索文本模型预训练的scaling law,在小规模小成本下更精准地预测大规模训练后的表现。
岗位要求:
1.熟练掌握Python,熟悉Linux环境开发,精通应用深度学习框架TensorFlow或者PyTorch;
2.持续跟进前沿的深度学习技术,了解前沿的深度学习相关算法,熟悉Transformer等模型结构;
3.具备分析问题定义问题和解决问题能力,具备持续的自驱力来面对挑战;
4.有大规模模型预训练…
招聘城市:北京,上海,杭州
岗位职责:
我们相信,通向更高阶智能的路径不止于更大的 LLM。
Post-Training 正在成为模型能力跃迁的关键阶段:从“学会语言”走向“理解世界、优化行为、持续进化”。该岗位将深度参与 多模态、强化学习、自进化 Agent 系统 等前沿方向,探索超越纯预训练范式的新能力边界,构建可持续学习、可记忆、可进化的智能系统。
1. Post-Training 核心研究与系统构建
设计并实现面向 推理能力、策略优化和长期表现 的后训练方法
探索 Reasoning RL Scaling、RLAIF for Fuzzy Task、Self-Play、Scalable Oversight 等在大模型中的新用法
将 Post-Training 视为 系统级优化问题,而非单次调参或 reward hacking
2. 强化学习与持续进化机制
设计基于试错和反馈的训练闭环(例如,Natural…
招聘城市:深圳
岗位职责:
1.负责大模型在端侧推理的SDK研发,性能优化;
2.负责不同端侧硬件平台(高通和 MTK的NPU)的适配开发;
3.负责端侧推理sdk工程化开发,工具开发,效率提升等工作。
岗位要求:
1.本科及以上学历,计算机科学、电子信息、自动化等相关专业背景,熟悉计算机体系结构;
2.具备AI模型部署及优化开发经验,熟练掌握c++,java开发:;
3.精通Transformer架构,熟悉Llama、GPT等主流大模型技术栈;
4.至少熟练使用一种推理框架(vLLM/ONNX Runtime/TensorRT/DeepSpeed等),有部署经验;
5.掌握性能分析工具(Nsight、PyTorch Profiler等);
6.有android开发经验优先。
加分项:
1.在同等条件下,通过腾讯云认证或取得同等资格认证的候选人,我们会优先考虑。
招聘城市:上海,北京
岗位职责:
1、参与大规模分布式训练框架(基于PyTorch等)的研发与优化,重点解决千卡乃至万卡级别集群的扩展性、容错与性能瓶颈问题;
2、负责训练系统中关键组件的设计与开发,包括但不限于大规模分布式参数服务器、高性能嵌入向量(Embedding)训练与推理、高效的优化器实现等;
3、深入系统底层,利用高性能网络(如RoCE v2, InfiniBand)、RDMA技术以及NVMe SSD存储,优化数据读取、通信和Checkpoint存储等关键路径,实现极致的端到端训练性能;
4、与算法团队紧密合作,理解前沿模型(如大语言模型、推荐系统、多模态模型)对训练基础设施的需求,并将其转化为系统级的创新与优化;
5、负责GPU/XPU计算资源的精细调度与…
招聘城市:上海
岗位职责:
1.框架开发与优化:负责强化学习、模型精调、知识蒸馏等核心模块的设计与开发,提升框架的训练效率与易用性;
2.分布式训练支持:基于Megatron-LM、DeepSpeed等工具,优化大模型分布式训练策略(数据并行/张量并行/流水并行/专家并行等),解决显存、通信与计算瓶颈;
3.工具链构建:参与开发轻量化训练框架(如LLama-Factory、swift),支持快速模型微调、部署及多硬件平台适配;
4.前沿技术探索:跟踪学术动态(如RLHF、MoE架构、FlashMLA、EPLB、DualPipe等),将最新研究成果转化为框架功能,提升产品竞争力;
5.协作与文档:与产品团队紧密配合,提供框架级解决方案;编写技术文档与案例,赋能公有云客户。
岗位要求:
1.计算机科学、数学、电子工程等相关专业…

小红书(xiaohongshu) 大模型推理服务架构工程师-hi lab

全职 北京,上海,广州
招聘城市:北京,上海,广州
岗位职责:
职位描述
团队专注于大模型机器学习系统领域的前沿技术研究和落地,提供高性能、高可靠、可扩展的机器学习系统、丰富的异构计算资源和极致的端到端的机器学习服务体验,为公司提供核心技术能力和服务。
1、负责大模型推理服务的研究与开发,服务于公司各个产品;
2、负责端到端解决大模型预训练、微调对齐阶段的工程、算法问题,为结果负责
任职要求:
1、熟练掌握Linux环境下的C/C++、Python语言;
2、具备扎实的计算机科学功底和编程能力,熟悉常见算法和数据结构,具有良好的编程习惯;
3、能够熟练使用至少一种主流的机器学习框架(TensorFlow / PyTorch等),熟悉框架内部实现;
4、熟悉Transformer模型及其应用场景
5、熟悉…
招聘城市:深圳
岗位职责:
1.负责开发和优化大模型推理框架;
2.主要通过GPU、CUDA性能优化的手段,结合线上实际情况,优化高性能LLM推理引擎;
3.负责大模型训练和推理前瞻性技术架构的调研和引入,技术方案不限于子图匹配、编译优化、模型量化等。
岗位要求:
1.本科及以上学历,计算机/电子/自动化/软件等相关专业,有AI工程优化经验的优先;
2.熟练GPU的高性能计算优化技术,深入理解计算机体系结构,熟悉并行计算优化、访存优化,低比特计算等;
3.具备丰富的基于CUDA的GPU性能优化经验;
4.了解深度学习算法基本原理,熟悉神经网络基本架构和各算子计算方式,了解至少一种深度学习训练框架及其模型文件的解析,如PyTorch、TensorFlow…
招聘城市:北京,上海,杭州
岗位职责:
我们相信,通向更高阶智能的路径不止于更大的 LLM。
Post-Training 正在成为模型能力跃迁的关键阶段:从“学会语言”走向“理解世界、优化行为、持续进化”。该岗位将深度参与 多模态、强化学习、自进化 Agent 系统 等前沿方向,探索超越纯预训练范式的新能力边界,构建可持续学习、可记忆、可进化的智能系统。
1. Post-Training 核心研究与系统构建
设计并实现面向 推理能力、策略优化和长期表现 的后训练方法
探索 Reasoning RL Scaling、RLAIF for Fuzzy Task、Self-Play、Scalable Oversight 等在大模型中的新用法
将 Post-Training 视为 系统级优化问题,而非单次调参或 reward hacking
2. 强化学习与持续进化机制
设计基于试错和反馈的训练闭环(例如,Natural…
招聘城市:深圳
岗位职责:
1.框架开发与优化:负责强化学习、模型精调、知识蒸馏等核心模块的设计与开发,提升框架的训练效率与易用性;
2.分布式训练支持:基于Megatron-LM、DeepSpeed等工具,优化大模型分布式训练策略(数据并行/张量并行/流水并行/专家并行等),解决显存、通信与计算瓶颈;
3.工具链构建:参与开发轻量化训练框架(如LLama-Factory、swift),支持快速模型微调、部署及多硬件平台适配;
4.前沿技术探索:跟踪学术动态(如RLHF、MoE架构、FlashMLA、EPLB、DualPipe等),将最新研究成果转化为框架功能,提升产品竞争力;
5.协作与文档:与产品团队紧密配合,提供框架级解决方案;编写技术文档与案例,赋能公有云客户。
岗位要求:
1.计算机科学、数学、电子工程等相关专业…
招聘城市:北京
岗位职责:
1.负责生成式大模型预训练相关的工作,包括但不限于:大规模模型预训练,长文本预训练,线性模型结构探索;
2.探索与跟进前沿技术,寻求技术突破,推动机器在AIGC能力的提升和突破;
3.探索高效的模型知识嵌入方法以及模型知识在线学习更新;
4.探索文本模型预训练的scaling law,在小规模小成本下更精准地预测大规模训练后的表现。
岗位要求:
1.熟练掌握Python,熟悉Linux环境开发,精通应用深度学习框架TensorFlow或者PyTorch;
2.持续跟进前沿的深度学习技术,了解前沿的深度学习相关算法,熟悉Transformer等模型结构;
3.具备分析问题定义问题和解决问题能力,具备持续的自驱力来面对挑战;
4.有大规模模型预训练…
招聘城市:上海
岗位职责:
1.负责大模型推理引擎架构设计、研发与迭代,深度适配主流GPU及异构AI芯片,优化推理性能与算力成本,搭建生产级PD分离推理调度系统,保障推理服务高并发、低延迟、高稳定;
2.搭建并优化多模态大模型训练底层基建,解决训练端显存管理、混合并行调度、跨节点通信同步痛点,完善算力调度与数据流水线,支撑模型高效稳定训练;
3.针对训练与推理场景核心技术难题,落地动态显存分配、KV Cache优化、变长序列批处理、通信优化、异构算力负载均衡等关键技术;
4.基于GPU与异构芯片架构,完成训练、推理全流程性能分析、算子及调度优化,推动优化方案工程化落地;
5.跟踪大模型Infra前沿技术,沉淀优化实践经验;参与vLLM、SGLang…
招聘城市:北京
岗位职责:
1.负责大语言模型(LLM)推理能力的核心技术研发,包括数学推理、逻辑推理、知识推理和通用任务(如问答、翻译等)的算法研发、优化与创新,提升大模型在复杂场景下的高阶推理能力;
2.跟踪推理领域的前沿技术,参与前沿算法研究,推动研究成果在业务场景的落地应用。
岗位要求:
1.计算机科学、数学、人工智能等相关专业硕士及以上学历;
2.具备良好的数理基础和 NLP 技术基础,能够熟练使用 HuggingFace,Megatron,DeepSpeed,PyTorch 等框架至少一种,深入理解Transformer、GPT等模型架构;
3.在Post-training方向有一定研究基础,熟悉SFT/DPO/PPO/GRPO/Reward Model等;
4.具备良好的分析和解决问题的能力,针对具体的应用场景能合理设计和优化算法并应用;
5…
招聘城市:深圳
岗位职责:
1.负责开发和优化TTS,LLM,VLM等大模型推理引擎;
2.与大模型算法同学深度合作,联合优化,打造行业领先的高性能推理引擎;
3.跟进机器学习前沿技术,将合适成果落地于实际应用。
岗位要求:
1.精通TensorFlow、PyTorch等主流深度学习框架,具备扎实的模型训练、调优及线上部署实践经验;
2.精通C/C++,精通常用数据结构与算法;
3.熟练掌握高性能计算优化技术,深入理解计算机体系结构,熟悉并行计算优化、访存优化,低比特计算等;
4.熟悉大模型推理框架(如vLLM/SGLang/TRT-LLM等),有推理优化经验者优先;
5.优秀的分析问题和解决问题的能力,对解决具有挑战性的问题充满激情;
6.责任心强,良好的业务意识…
招聘城市:深圳
岗位职责:
1.负责3D/动画等美术资产生成大模型分布式训练和推理系统的性能优化;
2.通过数据并行、模型并行、流水线并行、专家并行等策略的工程实现和性能优化;
3.解决大模型训练中的显存瓶颈、通信延迟和负载均衡等核心计算资源问题;
4.负责多模态RLHF训练与推理平台的实现。
岗位要求:
1.熟悉 GPU 架构 & CUDA 编程、算子融合优化等;
2.熟悉 PyTorch FSDP、DeepSpeed、Megatron-LM 等分布式训练框架,具备大模型多种并行训练策略实战经验;
3.熟悉 vLLM、SGLang 等大模型推理框架,有实际性能调优经验(如 KV Cache 优化、动态批处理、Attention 算子定制等);
4.熟悉大模型强化学习的工程技术,比如 OpenRLHF 框架。
加分项:
1.在知名学术期刊或会议…
招聘城市:上海
岗位介绍:
职位描述
工作职责:
深度参与B站社区生态建设,通过深度学习技术直接影响亿级用户的推荐体验和内容分发效率。主要负责B站社区推搜系统大规模离散DNN模型训练平台与推理框架的设计和演进。
✧参与多目标搜推模型的分布式训练框架设计,提升训练效率和稳定性;
✧设计支撑毫秒级延迟、高QPS的在线推理服务架构,满足社区实时搜推需求;
✧突破超大Embedding表的存储/更新/检索技术瓶颈,优化存储和计算效率;
✧优化GPU多卡/多机训练和推理的可扩展性,支持超长行为序列建模和参数scaling up的持续迭代;
搜推工程团队致力于构建下一代智能内容分发系统,让用户发现更多“感兴趣”的…

小红书(xiaohongshu) 模型开发工程师

全职 杭州,上海
招聘城市:杭州,上海
岗位职责:
岗位描述
我们正在建设一套面向内容安全场景的 Agentic RL 训推一体基础设施,打通从数据合成、强化学习训练、评测闭环,到推理优化与模型生命周期管理的完整链路。
这是一个高度复杂且尚未被标准化的问题:在多轮交互与长上下文条件下,如何让 Agent 稳定学习与持续进化?如何在真实业务中建立训练与推理的闭环?如何在效果与成本之间找到可规模化的工程解法?
我们希望你不仅能够实现模块,而是能够负责一个方向的系统设计与落地——从问题定义、方案设计,到工程实现与持续演进。这是一个位于「模型 × 系统 × Agent」交叉点的岗位——你既要能深入框架内核做定制改造,也要能在系统层面做出正确…