招聘城市:深圳
…具备良好的问题定位与性能分析能力,能熟练使用 Nsight、nvprof、perf 等性能分析工具进行瓶颈分析和优化。
加分项:
1.有大规模分布式训练实践经验(上百张 GPU 或更大规模),了解常见分布式训练框架与通信库(如 NCCL、Horovod、DeepSpeed、Megatron-LM 等);
2.对深度学习模型结构与训练算法有一定了解(如 Transformer、LLM 训练技巧、优化器、并行算法等),能与算法同学就结构与算子设计进行深入讨论;
3.有参加过编程竞赛(如 ICPC、NOI/IOI、Codeforces、AtCoder 等)并取得优异成绩的经历,具备优秀的算法与代码实现能力;
4.有高性能计算(HPC)、编译器优化、系统级性能调优相关经验或论文/开源项目贡献。
岗位介绍:
在腾讯,后台开发工程师不仅是…
招聘城市:北京
…DiT模型训练性能优化经验者优先;
4.熟练掌握CUDA性能优化手段,有算子编写优化项目经验者优先;
5.对大模型前沿技术比较敏锐者优先;
6.有实际大模型的训练调参和效果评测项目经验的优先;
7.良好的沟通能力、解决问题能力。
部门介绍:
机器学习平台部负责腾讯“太极”机器学习平台的建设,构建面向搜索、广告、推荐的稀疏大模型、大语言模型及稠密大模型和通用机器学习的平台能力,为腾讯广告,微信搜索、社交、游戏、金融、云等多个业务提供易用、高效的一站式机器学习平台服务。我们的技术包括但不限于预训练大模型框架、高性能参数服务器、CPU/GPU 训练和推理加速、图神经网络、NLP自然语言处理、搜索工程与…
招聘城市:深圳
…模态大模型结构设计,并联合业务进行模型训练效率和效果验证;
3.参与文生图、文生视频、文生3D等业务的训练性能加速;
4.参与低精度训练性能优化和业务推广、参与大窗口训练性能优化。
岗位要求:
1.熟练使用主流大模型训练框架DeepSpeed、Megatron,掌握3D并行、ZeRO机制、Flash-Attn等的原理、使用场景、优劣势以及可优化方向;
2.有ViT、SD、DiT模型训练性能优化经验者优先;
3.熟练掌握CUDA性能优化手段,有算子编写优化项目经验者优先;
4.对大模型前沿技术比较敏锐者优先;
5.有实际大模型的训练调参和效果评测项目经验的优先;
6.良好的沟通能力、解决问题能力。
岗位介绍:
在腾讯,后台开发工程师不仅…
招聘城市:北京
…和实现大模型训练中的核心算子 Kernel:;
3.结合 Hopper / Blackwell 特性,在线程组织、访存路径、寄存器/共享内存使用、Tensor Core 调度等层面做深度优化;
4.构建高性能训练算子库;
5.针对 WeLM 模型结构进行算子设计与融合,降低 Kernel 调度和访存开销;
6.参与 WeLM 内部高性能算子库的建设,与 PyTorch 及 cuBLAS、cuDNN、CUTLASS 等库进行集成或替换;
7.Kernel 性能分析与瓶颈优化;
8.使用 Nsight Compute / Nsight Systems / nvprof 等工具做 Kernel 级性能剖析;
9.分析 SM 利用率、Tensor Core 利用率、访存带宽、指令吞吐、分支发散等指标,持续迭代 Kernel 实现;
10.为上层训练框架提供关于 batch 设计、sequence length、并行策略等与性能相关的技术建议;
11.前沿技术跟踪与工程落地…
招聘城市:深圳
…开发和优化;
4.参与训推分离、partial rollout、agent场景开发和优化。
岗位要求:
1.熟悉PyTorch、Megatron等框架,掌握3D并行、ZeRO机制、Flash-Attn等的原理、使用场景、优劣势以及可优化方向;
2.熟悉使用主流推理框架,如vLLM、SGLang,掌握kvcache、量化、投机采样、算子优化等推理优化方法;
3.熟悉常见RL训练算法,如DPO、GRPO、PPO等,理解不同算法的差别和使用场景;
4.熟悉Ray框架,有Ray框架优化经验者优先;
5.熟练掌握CUDA性能优化手段,有算子编写优化项目经验者优先;
6.对大模型、强化学习前沿技术比较敏锐者优先;
7.有实际大模型RL训练,性能和效果优化经验的优先;
8.良好的沟通能力、解决问题能力。
岗位介绍:
在腾讯,后台开发工程师不仅…
招聘城市:北京
…1.必备条件:;
2.计算机、软件工程、人工智能等相关专业本科及以上学历;
3.扎实的 C++/Python 基础;
4.熟悉 PyTorch 或 JAX 等深度学习框架,了解模型训练与推理流程;
5.有 CUDA 编程或 GPU 性能调优经验,能使用 Nsight 等工具做 profiling;
6.了解常见 LLM 架构(如 Transformer、Attention、KV Cache)及推理优化思路;
7.具备良好的沟通与文档能力,能独立负责模块设计与实现。
加分项:
1.有SGlang、vLLM、TensorRT-LLM 等推理框架二次开发优化经验;
2.熟悉 AWQ/GPTQ/Speculative Decoding/Sparse Attention等推理优化方案,并有实际落地案例;
3.有大规模分布式推理、多机多卡部署与调度经验;
4.熟悉 Triton、cuBLAS、CUTLASS 等 GPU 编程与算子优化;
5.在 LLM 推理、编译器(如 TVM…
招聘城市:深圳
…模型性能优化及推理框架优化,提升整体吞吐、降低部署成本;提升框架易用性;
3.紧跟多模态生成和理解领域的技术前沿,推动技术创新在产品中落地;
4.针对落地业务,优化部署方案及适配定制化需求。
岗位要求:
1.了解AI基础设施、机器学习系统或高性能计算相关领域经验, 具有 vllm/sglang/TensorRT/FasterTransformer 等推理引擎实践经验;
2.精通主流多模态或全模态大模型,主导或核心参与过多模态大模型项目优先;有行业落地案例或相关开源项目经验者优先;
3.熟悉主流深度学习框架的网络结构与算子底层实现细节,具备模型训练 / 推理调优、CPU/GPU 加速、分布式训练与推理部署的实操经验者优先;
4.熟悉分布式推理常用加速方法(算子…
招聘城市:北京
…年起,自动配送车已在北京、深圳等多地进入常态化试运营阶段,运营车辆超500台,日均运营超16小时,截止2022年6月,已经累计配送近220万单。
欢迎加入美团无人车团队,与我们一起用科技推动即时零售再升级!
岗位职责:
1.负责无人车整体训练业务的计算效率提升工作,通过底层存储和通信优化、模型结构调整和特定算子优化以及模型并行等优化技巧,大幅提升各个算法业务的训练效率,推进算法的高效迭代。
2.与各个业务团队合作,深入分析训练周期中的各个环节,定位和解决训练周期中各个环节的性能瓶颈,缩短算法的迭代周期。
3.负责多模态离线大模型推理云平台的构建和性能优化工作。
任职…
招聘城市:深圳
…模容器集群与存储系统运维调优经验;
5.具备丰富的大规模分布式任务系统(如超千卡集群训练任务)故障排查经验,能独立解决跨层(硬件、网络、框架、调度)复杂问题,有大型 AI 训练集群稳定性治理成功案例者优先;
6.具备优秀的技术领导力与跨团队协作能力,能主导复杂技术项目落地;拥有清晰的逻辑思维与表达能力,善于沉淀技术经验并推动团队技术成长;
7.对技术有极致追求,有较强的问题驱动能力与创新意识,了解行业主流大模型训练基础设施技术栈(如 DeepSpeed、FSDP、Slurm 等)者优先。
岗位介绍:
在腾讯,后台开发工程师不仅是“又快又稳”的问题解决专家,更是生态共创者。你将与技术团队一同沉淀优质代码…
招聘城市:深圳
…机制与性能优化方法;熟悉深度学习模型从训练到推理的全链路转化逻辑,具备大模型训推一体化问题定位(如精度漂移、性能衰减)与优化经验者优先;
5.精通 CPU/GPU 异构计算架构下数据传输瓶颈(PCIe 带宽、内存墙、缓存利用率)分析方法;具备服务器端 AI 芯片(如 NVIDIA H100/A100、昇腾 910)推理性能调优经验,熟悉硬件特性与软件适配策略者优先;
6.精通分布式推理核心技术(张量并行、流水线并行、ZeRO 优化、动态负载均衡),熟悉分布式通信框架(NCCL、MPI)底层原理;主导过千亿级以上参数大模型分布式推理系统部署、性能调优与稳定性保障,具备超大模型推理成本优化实践经验者优先。
岗位介绍:
在腾讯,后台开发工程师不仅是…
招聘城市:深圳
…计算优化实现平台产能提升;
2.计算方向,提升平台级别计算效率,通过海量数据、任务、资源、合理化系统设计,抽象,对各个可编排算子的合并、拆分,达成易用性和计算性能平衡。对热点的算子,考虑单点优化以及公共服务的方式达到平台级性能提升;
3.存储方向,构建服务于整个预训练和后训练的dataset,优化海量存储管理与访问方案(对象存储分层、冷热分层、缓存策略、数据压缩与列式格式优化、读写并发控制、成本与生命周期管理);
4.编写技术文档、最佳实践与性能评估报告,推动能力沉淀与工具链升级。
岗位要求:
1.本科/硕士及以上学历,有大模型管线架构、优化、存储等全链路万亿级数据计算存储经验;
2.精通 Python/C++/Java 中至少一种,有良好工程…
招聘城市:北京
…熟悉cutlass等加速库是加分项;
3.熟悉主流大模型推理框架,如vllm,sglang,tensorrt-llm,FasterFransformer等;
4.熟悉各类深度学习网络和算子底层实现细节,训练和推理模型调试、调优有实操经验优先;
5.熟悉并行策略,如模型并行、流水线并行等,了解NVLINK、GPU通信者优先;
6.具备GPU、AI芯片体系结构知识,熟悉芯片特性,具备系统性能分析和调优经验优先;
7.加分项:;
8.机器学习或者体系结构相关顶会论文;
9.参与vllm、sglang等开源项目贡献者;
10.熟悉推理服务框架,具备服务部署经验者优先,有超大模型分布式部署经验优先。
岗位介绍:
在腾讯,后台开发工程师不仅是“又快又稳”的问题解决专家,更是生态共创者。你将与技术团队一同沉淀…
招聘城市:深圳
…3.优化大模型推理框架,提升框架易用性和可调试性。
岗位要求:
1.熟练掌握 C/C++、Python语言,有计算机体系结构背景或软件开发背景,熟悉系统性能调优的方式;
2.具备基础的GPU编程能力,包括但不限于Cuda、OpenCL;熟悉至少一种GPU加速库,如cublas、cudnn、cutlass等;
3.有Tensorrt/FasterTransformer/Tensorrt-llm/vllm等深度学习推理框架的实际使用经验;
4.熟悉各类深度学习网络和算子底层实现细节,训练和推理模型调试、调优有实操经验优先;
5.熟悉CPU/GPU异构加速瓶颈分析方法,有服务器端 AI 芯片、GPU加速经验优先;
6.熟悉分布式推理常用加速方法,有超大模型分布式部署经验优先。
岗位介绍:
在腾讯,后台开发工程师不仅是“又快又稳…
招聘城市:北京,上海,深圳
…应用的软件工程师团队,分布在北京、上海、深圳、台北、首尔、悉尼,团队人数规模超过 150 人。我们的使命做 NVIDIA 平台与全球开发者之间的桥梁。我们深入客户项目,用软件解决当下的性能瓶颈;同时将开发者在真实世界中遇到的瓶颈与洞察,直接转化为推动下一代 NVIDIA 硬件与软件栈进化的核心输入。我们深耕的领域遍布各行各业我们深耕的领域遍布各行各业从互联网大厂的推荐系统优化、大规模训练、推理基础设施建设,到大语言模型(LLM)创业新锐的模型加速;从高性能计算(HPC)应用、CPU 上重点负载的开发和优化,到辅助驾驶、具身智能和智能体的计算挑战。每一个项目都是全新的课题,每一次优化都在拓展…
招聘城市:北京
…业务场景的落地。
岗位要求:
1.计算机相关专业,本科及以上学历;
2.熟悉 linux 开发环境,优秀的 C++ 编程经验,熟练掌握常用数据结构与算法,有一定的软件工程能力和良好的编程能力;
3.了解常见的深度学习训练框架(如 HuggingFace,Megatron,DeepSpeed,PyTorch) 以及推理框架(如 VLLM、SGLang、TRT);
4.具备良好的逻辑思维、快速学习能力、分析和解决问题的能力;
5.对于探索前沿技术有很好的热情,具备独立探索前沿技术的能力,有良好的团队协作和沟通能力。
加分项:
1.主导过基座大模型后训练项目,并在性能优化、稳定性优化方面取得过显著成效;
2.了解 GPU 硬件架构,有 CUDA 编程经验,熟悉各种网络底层算子实现细节;
3.有 ACM/ICPC 等算法竞赛奖项。
招聘城市:北京,上海
…调度策略优化和关键算子(Kernel)的性能剖析与极致优化,持续提升系统的吞吐量、降低延迟;
4、生态合作与协同:作为技术接口人,与国产芯片原厂技术支持团队紧密合作,高效推进芯片驱动、基础软件栈的引入、问题排查与版本迭代,确保技术路线顺畅推进。
任职要求:
1、熟练掌握 C++/Python 编程,具备扎实的计算机体系结构、数据结构和算法基础,具备良好的编程习惯;
2、有至少一款非Nvidia GPU的异构计算芯片适配大模型训练、推理框架的相关经验,包括但不限于AI框架适配、模型移植、性能优化或算子开发;
3、熟悉至少一种主流的机器学习框架(PyTorch/PaddlePaddle/TensorFlow等),对框架内部实现有一定了解;
4、具备大型深度学习模型(尤其是大语言模型LLM或…
招聘城市:北京
…大窗口、分布式训练的性能优化,持续跟进大模型训练框架前沿技术,进行关键技术预研以及落地验证;
4.深入分析模型后训练过程中的链路流程,包括数据加载、通信效率等,提升训练速度以及训练吞吐。
岗位要求:
1.精通Python及PyTorch等框架,具备Qwen、Deepseek等模型的二次训练经验者优先;
2.深入理解Transformer架构、SFT/RL训练范式及Prompt工程,了解Claude Code等Agent开发框架,有完整智能体系统搭建经验者优先;
3.熟悉常用的RL训练框架和训练技巧,有Verl、Slime、AReal等强化学习训练框架使用经验者优先;
4.深入理解分布式框架的底层通信机制、内存管理策略与并行调度等逻辑,能够精准定位核心优化方向;
5.熟悉主流推理框架,掌握 kvcache、量化、算子…
招聘城市:深圳
岗位职责:
1.负责开发和优化大模型推理框架;
2.主要通过GPU、CUDA性能优化的手段,结合线上实际情况,优化高性能LLM推理引擎;
3.负责大模型训练和推理前瞻性技术架构的调研和引入,技术方案不限于子图匹配、编译优化、模型量化等。
岗位要求:
1.本科及以上学历,计算机/电子/自动化/软件等相关专业,有AI工程优化经验的优先;
2.熟练GPU的高性能计算优化技术,深入理解计算机体系结构,熟悉并行计算优化、访存优化,低比特计算等;
3.具备丰富的基于CUDA的GPU性能优化经验;
4.了解深度学习算法基本原理,熟悉神经网络基本架构和各算子计算方式,了解至少一种深度学习训练框架及其模型文件的解析,如PyTorch、TensorFlow…
招聘城市:北京,上海
…专注于大语言模型领域的前沿技术研究和落地,提供高性能、高可靠、可扩展的机器学习系统、丰富的异构计算资源和极致的端到端的机器学习服务体验,为公司提供核心技术能力和服务。
1、负责机器学习框架的研究与开发,服务于公司各个产品;
2、高效部署,优化NLP/多模态大模型核心业务模型;
【轻量化】
机器学习系统团队需要将传统或者新型的轻量化算法和工程有机结合起来进行加速,提高大语言模型训练或者推理性能的同时,通过算法手段尽可能降低效果损失。候选人将在以下几个方向进行深入探索和落地:
1、量化方向:负责但不限于大语言模型的低精度训练(FP8)、推理(W8A8KV8等)、低精度优化器(量化梯度、优化器…
招聘城市:北京
岗位职责:
1.参与开发优化大模型训练框架,支持大规模高效稳定训练;
2.参与大模型结构设计,并联合业务进行模型训练效率和效果验证。
岗位要求:
1.熟练使用PyTorch框架,可对DDP训练的代码进行性能分析和优化;
2.熟练使用主流大模型训练框架DeepSpeed、Megatron,掌握3D并行、ZeRO机制、Flash-Attn等的原理、使用场景、优劣势以及可优化方向;
3.熟练掌握CUDA性能优化手段,有算子编写优化项目经验者优先;
4.对大模型前沿技术比较敏锐者优先;
5.有实际大模型的训练调参和效果评测项目经验的优先;
6.良好的沟通能力、解决问题能力。