招聘城市:北京
…小红书内的众多生产场景遍地开花,大模型的训练和部署已成为许多算法工程师的日常。在多团队、多业务频繁使用的大规模GPU集群上,如何能够通过高效的GPU调度策略,使大家不仅能丝滑地完成训练及部署任务,同时也能充分激发大规模GPU集群的效能,是行业公认的关键挑战。在这里,你可以聚焦LLM场景,接触到超大规模GPU集群,并使用真实负载数据进行深入分析及技术探索。欢迎加入我们,一起探索领先技术改变世界!
工作职责:
1、负责万卡规模GPU集群效能分析及优化,通过调度策略优化、在离线混部、集群调度、GPU虚拟化、故障快速恢复、存储&网络加速等手段,提升大规模GPU集群的整体使用效率…
招聘城市:北京,上海,杭州
…生命周期,如预训练、微调、对齐、推理、部署等基本概念及流程,能够支撑大模型平台构建&优化即可;
3、熟悉大规模GPU训练、推理集群的调优技术,能结合平台调度、网络拓扑优化等提升集群训练推理效率。
4、熟练掌握 Python、Golang、C++ 或其他编程语言中的一门或多门,熟悉至少一种深度学习框架,如PyTorch、TensorFlow、PaddlePaddle等。
5、具备优秀的逻辑分析能力,能够对业务逻辑进行合理的抽象和拆分。
加分项 :
1、有大模型场景下负载特征分析、GPU集群调度&性能优化、高性能网络/存储等实践经验或者相关研究成果优先;
2、有GPU虚拟化落地、在线/离线场景混合部署经验优先;
3、有大规模GPU集群上预训练、推理等场景端到端优化经验优先。
招聘城市:上海,北京,杭州
…Kubeflow、Volcano、Kueue 等,有调度系统开发经验优先。
2、熟悉 GPU 集群调度、GPU 虚拟化、Quota 管理、故障容错、资源弹性伸缩、高速网络 / 存储等方向中的至少一类。
3、了解大模型训练、后训练、推理、部署等生命周期,理解不同负载对 GPU 资源、网络、存储和调度策略的差异化诉求。
4、熟练掌握 Python、Golang、C++ 或其他编程语言中的一门或多门,具备良好的工程实现能力。
5、具备优秀的逻辑分析能力和系统抽象能力,能够基于真实业务负载进行问题拆解、策略设计和工程落地。
6、有良好的沟通协作能力,能与平台、云原生、算法、业务、IDC、网络和存储团队协同推进复杂项目。
加分项 :
1、有大模型场景下负载特征分析、GPU 集群调度、资源利用率优化、高性能…
招聘城市:深圳
…K8s调度器、CSI插件及CRD的开发,推动大规模训推技术的实际落地;
4.积极探索混合云、虚拟化、ARM异构计算等前沿方向,不断推动。
岗位要求:
1.熟练掌握Go/Python/C++至少一门编程语言,精通数据结构和算法,具备扎实的编程基础和问题解决能力;
2.熟悉Kubernetes核心组件(调度器/网络/存储)、容器运行时及CRD开发,具备丰富的大规模集群调优经验,能够有效应对复杂环境下的调度需求;
3.具备OpenMP/MPI/RDMA高性能计算开发经验,熟悉并行计算原理及优化技巧,能够提升大规模训练任务的执行效率;
4.熟悉主流AI框架(Pytorch/TensorFlow等)及训练加速技术(算子优化/显存管理),能够针对AI任务进行深度优化。
岗位介绍:
在腾讯,后台开发工程师…
招聘城市:深圳
…GPU相关开发经验;
2.深刻理解核心厂商GPU架构、CUDA驱动库/API接口及用户态/内核态驱动;
3.熟练掌握业界主流的gpu虚拟化方案(如vGPU,MIG,SRIOV,CUDA劫持等)的底层技术原理和实现;
4.有实际的显存/算力超卖,性能监控和调优等方面的相关技术研发经验和项目落地经验;
5.熟悉容器/安全容器领域编排,调度,运行时相关技术栈;
6.熟练掌握Go和Rust中的至少一门语言,以及C/C++语言,具备扎实的系统编程和性能剖析能力;
7.有在大型云厂商从事GPU云服务器或Serverless GPU产品研发的经验;
8.对GPU的硬件复位(GPU Reset)机制,dump/restore等技术有深入研究和实践。
岗位介绍:
在腾讯,后台开发工程师…
招聘城市:深圳
…学习研发效率
3. 优化平台GPU调度效率,提高资源利用率
4. 追踪前沿动态,优化技术架构,不断推进平台升级
岗位要求:
1. 掌握机器学习基本原理和工程链路,熟悉数据工程、模型训练、模型推理等流程,具有MLOps相关平台实际开发经验,有大规模搜/广/推工程平台研发经验者优先。
2. 具备丰富的分布式系统开发经验,掌握负载均衡、容灾备份、数据库查询优化、缓存、消息队列等技术与系统。
3. 熟练掌握Java/Go/Python至少一种编程语言,具有良好的软件设计、和代码开发能力。
4. 熟悉Spring Boot、VUE、MySQL等框架组件,了解PyTorch/Megatron/VERL等机器学习框架。
6. 良好的沟通和团队协调能力,具备较好的自驱力,学习能力。
岗位介绍:
在腾讯,后台开发工程师…
招聘城市:北京,上海,杭州
…3.分布式 GPU 调度与治理: 参与平台核心的 Quota 管理与资源调度模块开发,攻坚多机房、多集群、异构计算资源(GPU / NPU / PPU)下的多租户配额治理、弹性伸缩与碎片优化。
4.AI 前沿技术预研与落地: 持续追踪 AI 基础设施与大模型平台的前沿技术动态,探索并沉淀团队 AI Native 研发最佳实践,将业界领先的 AI 工程架构与实践理念引入团队。
任职要求:
任职要求:
1.AI Native 研发: 具备快速学习能力,熟练且高频地使用主流大模型与 AI 编程辅助工具(如 Claude Code、Cursor、GitHub Copilot 等),能够根据产品逻辑与用户行为,自主完成从架构设计到代码实现的全链路交付。
2.基础技术能力: 计算机/软件工程等相关专业,具备扎实的计算机系统基础,有…
招聘城市:北京,上海,杭州
…PD 分离及请求动态调度能力建设,基于 vLLM、SGLang 等建设万亿级 Token 并行推理与服务高可用架构。
3.大模型加速算法落地: 探索并落地大语言模型及多模态模型的低比特量化(W8A8/W4A8等)、投机采样、CoT压缩、蒸馏、剪枝等算法,支持各业务大幅降低推理成本。
4.异构计算与底层优化: 主导基于国产异构计算芯片(昇腾 NPU 等)及主流 GPU 的软硬协同优化,负责 AI 框架适配、模型移植、关键算子开发与性能优化,实现高吞吐与低延迟的推理系统。
5.探索 Agentic AI Infra 研发范式: 将 AI 工具深度融入 Infra 开发链路,熟练运用 AI 编程工具进行架构探索、复杂 Debug 与重构,大幅提升 AI Infra 全栈工程的迭代效率。
任职要求:
任职要求:
1.AI 工程范式…
招聘城市:北京
…岗位要求:
1.本科及以上学历,计算机相关专业;
2.熟悉 Go / Java / C++ / Python 中至少一种,具备较强的工程开发能力;
3.有扎实的后台系统开发经验,熟悉高并发、分布式、微服务等常见技术体系;
4.有服务上线、性能压测、线上故障排查、监控告警建设经验;
5.对 AI 工程、模型服务、语音交互方向有兴趣,愿意深入复杂链路与性能优化问题。
加分项:
1.模型部署与推理优化经验;
2.TTS / ASR / RTC / 流式服务相关经验;
3.Kubernetes / Docker / GPU 资源调度 / MLOps 经验;
4.有低延迟实时系统建设经验。
岗位介绍:
在腾讯,后台开发工程师不仅是“又快又稳”的问题解决专家,更是生态共创者。你将与技术团队一同沉淀优质代码,让它成为我们共有的宝贵资产…
招聘城市:上海
…并行等,熟悉NVLINK、GPU RDMA通信者优先;
4.熟悉各类深度学习网络和算子底层实现细节,有实操经验优先;
5.熟悉主流开源模型及其架构特点,具备针对不同模型进行分析优化的能力优先;
6.具备GPU、AI芯片体系结构知识,熟悉芯片特性,具备系统性能分析和调优经验优先。
加分项:
1.熟悉常见的算子编译优化、图优化和算子融合流程,如torch.compile,triton,tilelang等;
2.熟悉GPU/AI芯片编程,如CUDA,Ascend C等,熟悉cutlass等加速库;
3.机器学习或者体系结构相关顶会论文;
4.参与vllm、sglang等开源项目贡献者。
岗位介绍:
在腾讯,后台开发工程师不仅是“又快又稳”的问题解决专家,更是生态共创者。你将与技术团队一同沉淀优质代码,让它…
招聘城市:深圳
…熟悉行业内人工智能平台、机器学习实现方案,熟悉主流云计算厂商 AI 产品特点,有 AI 研发经验者优先;
6.熟悉业界流行的显卡虚拟化技术,对Nvidia/AMD/Intel等GPU技术有较深理解的优先;
7.对GPU,分布式计算,RDMA,MPI,GPU Direct 等技术有了解和使用经验优先;
8.精通C++、Python等开发语言,熟练掌握Linux软件开发技术;
9.有一定的管理能力,具备丰富的产品规划和设计经验,对人工智能技术及行业有前瞻性战略思考;
10.清晰的逻辑分析和表达能力,乐观积极,具有较强的责任心和执行力。
岗位介绍:
在腾讯,后台开发工程师不仅是“又快又稳”的问题解决专家,更是生态共创者。你将与技术团队一同沉淀优质代码…
招聘城市:深圳
…熟悉行业内人工智能平台、机器学习实现方案,熟悉主流云计算厂商 AI 产品特点,有 AI 研发经验者优先;
6.熟悉业界流行的显卡虚拟化技术,对Nvidia/AMD/Intel等GPU技术有较深理解的优先;
7.对GPU,分布式计算,RDMA,MPI,GPU Direct 等技术有了解和使用经验优先;
8.精通C++、Python等开发语言,熟练掌握Linux软件开发技术;
9.有一定的管理能力,具备丰富的产品规划和设计经验,对人工智能技术及行业有前瞻性战略思考;
10.清晰的逻辑分析和表达能力,乐观积极,具有较强的责任心和执行力。
岗位介绍:
在腾讯,后台开发工程师不仅是“又快又稳”的问题解决专家,更是生态共创者。你将与技术团队一同沉淀优质代码…
招聘城市:北京
…架构升级。
岗位要求:
1.深底层的工程素养:精通 C++/Python,具备深厚的系统编程功底,能够对内存管理、磁盘 I/O 及 CPU/GPU 算力进行极致的性能调优;
2.分布式架构实战:熟悉大规模分布式存储系统或 Parameter Server 架构原理,有 RocksDB、FasterKV 或同类高性能 KV 存储引擎深度优化经验者优先;
3.通信与算网优化:对高带宽、低延迟网络有深入理解,熟悉 RDMA、NCCL、UCX 等通信协议及框架,具备跨地域/跨机房大规模数据同步优化经验;
4.加分项:有超大规模广告/推荐系统底层框架研发经验,或在 GPU 内存管理、算力调度领域有深厚积累者。
岗位介绍:
在腾讯,后台开发工程师不仅是“又快又稳”的问题解决专家,更是生态共创者。你…
招聘城市:北京
岗位职责:
1.设计建设一站式 Serverless AI 推理平台,衔接模型训练到工业应用落地的过程;
2.通过模型部署编排、算力调度、推理加速、异构计算等手段,持续优化推理成本,提供极致低成本的推理平台。
岗位要求:
1.有 AI 推理在工业上大规模落地的经验,熟悉 AI 模型从资源建设到上线对外过程中常见的问题和解决方案;
2.熟悉 GPU 架构,并且能根据 GPU 架构合理设计上层算力调度、推理加速等相关软件栈,充分发挥 GPU 的算力,具备CUDA高性能并行编程经验;
3.熟悉 PyTorch 或其他常用机器学习框架和 TensorRT 或其他常用推理框架,了解 Transformer 等常用模型结构和常用的模型推理性能优化手段;
4.良好的团队沟通和协作能力。
招聘城市:深圳
岗位职责:
1.设计建设一站式 Serverless AI 推理平台,衔接模型训练到工业应用落地的过程;
2.通过模型部署编排、算力调度、推理加速、异构计算等手段,持续优化推理成本,提供极致低成本的推理平台。
岗位要求:
1.有 AI 推理在工业上大规模落地的经验,熟悉 AI 模型从资源建设到上线对外过程中常见的问题和解决方案;
2.熟悉 GPU 架构,并且能根据 GPU 架构合理设计上层算力调度、推理加速等相关软件栈,充分发挥 GPU 的算力,具备CUDA高性能并行编程经验;
3.熟悉 PyTorch 或其他常用机器学习框架和 TensorRT 或其他常用推理框架,了解 Transformer 等常用模型结构和常用的模型推理性能优化手段;
4.良好的团队沟通和协作能力。
招聘城市:北京
…
2.熟悉GPU/AI芯片编程,如CUDA,OpenCL,Ascend C等,熟悉cutlass等加速库是加分项;
3.熟悉主流大模型推理框架,如vllm,sglang,tensorrt-llm,FasterFransformer等;
4.熟悉各类深度学习网络和算子底层实现细节,训练和推理模型调试、调优有实操经验优先;
5.熟悉并行策略,如模型并行、流水线并行等,了解NVLINK、GPU通信者优先;
6.具备GPU、AI芯片体系结构知识,熟悉芯片特性,具备系统性能分析和调优经验优先;
7.加分项:;
8.机器学习或者体系结构相关顶会论文;
9.参与vllm、sglang等开源项目贡献者;
10.熟悉推理服务框架,具备服务部署经验者优先,有超大模型分布式部署经验优先。
岗位介绍:
在腾讯,后台开发工程师不仅是“又快又稳”的问题解决…
招聘城市:杭州
…并行等,熟悉NVLINK、GPU RDMA通信者优先;
4.熟悉各类深度学习网络和算子底层实现细节,有实操经验优先;
5.熟悉主流开源模型及其架构特点,具备针对不同模型进行分析优化的能力优先;
6.具备GPU、AI芯片体系结构知识,熟悉芯片特性,具备系统性能分析和调优经验优先。
加分项:
1.熟悉常见的算子编译优化、图优化和算子融合流程,如torch.compile,triton,tilelang等;
2.熟悉GPU/AI芯片编程,如CUDA,Ascend C等,熟悉cutlass等加速库;
3.机器学习或者体系结构相关顶会论文;
4.参与vllm、sglang等开源项目贡献者。
岗位介绍:
在腾讯,后台开发工程师不仅是“又快又稳”的问题解决专家,更是生态共创者。你将与技术团队一同沉淀优质代码,让它…
招聘城市:北京
…并行等,熟悉NVLINK、GPU RDMA通信者优先;
4.熟悉各类深度学习网络和算子底层实现细节,有实操经验优先;
5.熟悉主流开源模型及其架构特点,具备针对不同模型进行分析优化的能力优先;
6.具备GPU、AI芯片体系结构知识,熟悉芯片特性,具备系统性能分析和调优经验优先。
加分项:
1.熟悉常见的算子编译优化、图优化和算子融合流程,如torch.compile,triton,tilelang等;
2.熟悉GPU/AI芯片编程,如CUDA,Ascend C等,熟悉cutlass等加速库;
3.机器学习或者体系结构相关顶会论文;
4.参与vllm、sglang等开源项目贡献者。
岗位介绍:
在腾讯,后台开发工程师不仅是“又快又稳”的问题解决专家,更是生态共创者。你将与技术团队一同沉淀优质代码,让它…
招聘城市:北京
…
2.熟悉GPU/AI芯片编程,如CUDA,OpenCL,Ascend C等,熟悉cutlass等加速库是加分项;
3.熟悉主流大模型推理框架,如vllm,sglang,tensorrt-llm,FasterFransformer等;
4.熟悉各类深度学习网络和算子底层实现细节,训练和推理模型调试、调优有实操经验优先;
5.熟悉并行策略,如模型并行、流水线并行等,了解NVLINK、GPU通信者优先;
6.具备GPU、AI芯片体系结构知识,熟悉芯片特性,具备系统性能分析和调优经验优先;
7.加分项:;
8.机器学习或者体系结构相关顶会论文;
9.参与vllm、sglang等开源项目贡献者;
10.熟悉推理服务框架,具备服务部署经验者优先,有超大模型分布式部署经验优先。
岗位介绍:
在腾讯,后台开发工程师不仅是“又快又稳”的问题解决…
招聘城市:北京,上海,杭州,深圳
岗位职责:
工作职责:
1、负责大模型平台的架构设计和核心功能研发,构建云原生架构,设计高可用、高性能的微服务体系;
2、负责构建面向大模型全流程的DevOps,与下游云原生平台深度融合,支撑大模型在公司内各业务生产链路稳定高效地落地;
3、负责万卡规模GPU集群效能分析及优化,通过调度策略优化、在离线混部、GPU虚拟化、存储&网络加速等手段,提升GPU集群使用效率;
4、将平台和框架结合,通过任务调度、弹性容灾、性能优化等措施端到端提升AI生产效率,涉及k8s/kubeflow、网络通信、分布式训练等;
5、优化各AI平台性能,提升系统稳定性和可扩展性,保障大规模并发场景下的服务质量与用户体验…