牛大妈在社招职位搜索深度学习推理优化-AI编译器方向 有 16 条结果

招聘城市:北京,上海
…搜广推、长序列、多模态、MoE等深度学习模型的推理效率。
4. 针对GPU/NPU等异构计算芯片,探索基于IR编译优化的片内多部件并行流水线等前沿技术,构建业界影响力。
任职要求:
1. 计算机及相关专业本科以上学历,3年以上AI编译研发经验。
2. 精通C/C++,具备扎实的系统底层能力(内存、并发、网络)。
3. 熟悉XLA/LLVM/MLIR/TVM/IREE/Triton/Torch Inductor/TileLang等AI编译基础设施和相关工具链。
4. 熟悉TensorFlow Serving、TensorRT、OpenXLA、ONNX Runtime等推理后端。
5. 熟悉深度学习模型结构和计算图优化方法。
6. 有GPU/NPU集群建设与性能调优经验,能够定位并解决推理性能瓶颈。
【加分项】
• 有GPU/NPU异构计算芯片的优化经验。。
• 在TensorFlow、PyTorch…
招聘城市:深圳
…2.优化和扩展vLLM、SGLang、PyTorch等框架的核心模块,提升计算效率与资源利用率;
3.深入分析GPU/AI芯片的硬件架构特性,设计并实现高性能算子、算法和特性使能组件;
4.探索前沿技术方向(如混合专家模型MOE、动态计算图编译优化等)。
岗位要求:
1.扎实的计算机体系结构、数学等基础;
2.精通 C/C++、Python 等编程语言,具备扎实的编程基础和良好的代码风格;
3.深入理解编译原理,熟悉编译流程(词法分析、语法分析、语义分析、中间代码生成、代码优化、目标代码生成等),掌握至少一种主流编译框架(如 Triton/TileLang、TVM、MLIR等)的使用和开发;
4.熟悉深度学习框架(如 TensorFlow、PyTorch 等)的原理和使用,了解深度学习模型的训练和推理过程…
招聘城市:广州
…端开发或机器学习工程相关经验;
2.熟悉Linux开发环境,熟悉至少一门编程语言(如C/C++),深入理解数据结构与算法,善于通过编程解决实际问题;
3.具备良好的问题分析和解决能力,能够独立设计和实现复杂功能模块;
4.具备良好的团队协作能力和沟通能力,能够与跨职能团队高效合作;积极主动,勇于接受挑战;
5.对技术有热情,持续学习新技术,能够快速适应业务和技术变化;
加分项:
1.有机器学习平台、深度学习推理框架、语音系统、资源调度系统、模型部署优化AI基础设施等相关项目经验者;
2.深入理解分布式系统、高并发、高可用架构设计,有大规模系统开发经验者;
3.有AI计算平台(CUDA/X86/ARM/NPU等)开发经验,或编译优化
招聘城市:北京
…相关专业本科及以上学历;
3.扎实的 C++/Python 基础;
4.熟悉 PyTorch 或 JAX 等深度学习框架,了解模型训练与推理流程;
5.有 CUDA 编程或 GPU 性能调优经验,能使用 Nsight 等工具做 profiling;
6.了解常见 LLM 架构(如 Transformer、Attention、KV Cache)及推理优化思路;
7.具备良好的沟通与文档能力,能独立负责模块设计与实现。
加分项:
1.有SGlang、vLLM、TensorRT-LLM 等推理框架二次开发优化经验;
2.熟悉 AWQ/GPTQ/Speculative Decoding/Sparse Attention等推理优化方案,并有实际落地案例;
3.有大规模分布式推理、多机多卡部署与调度经验;
4.熟悉 Triton、cuBLAS、CUTLASS 等 GPU 编程与算子优化
5.在 LLM 推理编译(如 TVM、XLA)、或高性能计算方向有论文或开源贡献。
招聘城市:广州

3.具备良好的沟通能力和团队协作精神,积极主动,勇于接受挑战。
加分项:
1.有2年以上后台系统研发与运营经验,熟悉传统大型后台系统、机器学习系统、AI推理平台、资源调度系统、推荐系统、发布系统中的任一系统均可;
2.熟悉深度学习框架/平台,如PyTorch、SGLang、vLLM、LLVM、TensorRT等,有底层优化或开源经验者;
3.有AI计算平台(CUDA/X86/ARM/NPU等)开发经验,或编译优化(如MLIR)的开发经验者;
4.具备模型训练/调优、模型量化、模型蒸馏等经验,或曾发表过后台系统、机器学习训练框架或计算加速相关论文者;
5.有类ACM/ICPC算法竞赛背景者。
岗位介绍:
在腾讯,后台开发工程师不仅是“又快又稳”的问题解决专家,更是生态共创…
招聘城市:深圳
岗位职责:
1.基于自研 AI 芯片软件栈以及架构特点,研发和优化高性能算子,设计高效的数据流与计算流方案;
2.结合芯片计算单元和存储层次,构建可维护、可扩展的算子实现;
3.参与测试框架和性能分析体系的建设,提升算子研发效率、质量保障能力和生态易用性;
4.与编译、runtime及业务团队协作,推动模型在自研芯片上的端到端性能优化与落地。
岗位要求:
1.熟悉 Linux 开发环境,扎实掌握 C++/Python,具备良好的代码能力和工程能力;
2.熟悉异构计算或高性能计算基础,理解并行编程、向量化、线程/任务调度、访存优化等基本原理;
3.熟悉 PyTorch、TensorFlow 等主流深度学习框架;
4.具备性能瓶颈定位与调优能力,具备…
招聘城市:北京
岗位职责:
1.基于自研 AI 芯片软件栈以及架构特点,研发和优化高性能算子,设计高效的数据流与计算流方案;
2.结合芯片计算单元和存储层次,构建可维护、可扩展的算子实现;
3.参与测试框架和性能分析体系的建设,提升算子研发效率、质量保障能力和生态易用性;
4.与编译、runtime及业务团队协作,推动模型在自研芯片上的端到端性能优化与落地。
岗位要求:
1.熟悉 Linux 开发环境,扎实掌握 C++/Python,具备良好的代码能力和工程能力;
2.熟悉异构计算或高性能计算基础,理解并行编程、向量化、线程/任务调度、访存优化等基本原理;
3.熟悉 PyTorch、TensorFlow 等主流深度学习框架;
4.具备性能瓶颈定位与调优能力,具备…

小红书(xiaohongshu) AI Infra工程师/专家

全职 北京,上海,深圳
招聘城市:北京,上海,深圳
…参与开发/调试用于异构计算全链路的AI编译,探索基于IR编译优化的片内多部件并行流水线等前沿技术,构建业界影响力。
支撑业界领先的多模态模型在国内最大的生活兴趣社区上落地。
任职要求:
【岗位要求】
1. 有扎实的工程算法基础,精通数据结构和常用算法,熟练掌握各种编译、调试、性能分析工具。
2. 精通C/C++/CUDA/Topscc/AscendC,具备扎实的系统底层能力(内存、并发、网络)。
3. 有大规模分布式系统开发和优化经验;有大模型分布式训练经验者优先。
4. 精通MLIR/TVM/Triton/Torch Inductor/TileLang/Verbs/NCCL/NVSHMEM等分布式异构计算框架和相关工具链。
5. 精通Megatron/DeepSpeed/veRL/OpenRLHF/LLaMA-Factory等业界开源训练框架。
6. 熟悉常见深度学习模型结构…
招聘城市:北京,上海
…业务在长序列建模、生成式推荐、Agent等前沿场景在GPU,XPU等异构计算部件上规模落地。
1. 参与推理引擎的架构设计与核心模块的开发。持续优化推理基础设施:特征DSL编译引擎、服务化推理框架,实现性能提升。
2. 优化搜广推、长序列、多模态、MoE等深度学习模型的推理效率,将各场景的推理性能优化到极致。
3. 针对GPU/NPU等异构计算芯片,探索片内多部件并行流水线等前沿技术,构建业界影响力。
任职要求:
1. 计算机及相关专业本科以上学历,3年以上高性能系统或AI Infra研发经验。
2. 精通C/C++/CUDA/AscendC/TopsCC,具备扎实的系统底层能力(内存、并发、网络)。
3. 深入理解至少一种主流训练/推理框架(XDL、TFRA、DeepRec、TorchRec、DeepSpeed…
招聘城市:深圳
…及优化推理引擎、PD分离推理调度系统;
2.支持主流GPU和异构AI芯片,优化推理性能,打造极致性能成本优势。
岗位要求:
1.熟练掌握C/C++、Python编程语言,具备良好的coding和调试能力;
2.熟悉GPU/AI芯片编程,如CUDA,OpenCL,Ascend C等;
3.熟悉常见的算子编译优化和算子调优手段,如torch.compile,triton等;
4.熟悉各类深度学习网络和算子底层实现细节,训练和推理模型调试、调优有实操经验优先;
5.熟悉主流推理框架,如vllm,sglang,tensorrt-llm,FasterFransformer等优先;
6.熟悉并行策略,如模型并行、流水线并行等,了解NVLINK、GPU通信者优先;
7.具备GPU、AI芯片体系结构知识,熟悉芯片特性,具备系统性能分析和调优经验优先。
加分项:
1.机器学习或者…
招聘城市:杭州
…具备良好的coding和调试能力;
2.熟悉主流大模型推理框架,如vllm,sglang,tensorrt-llm等,具备语言、多模态模型大规模部署和优化经验;
3.熟悉并行策略,如数据并行、流水线并行等,熟悉NVLINK、GPU RDMA通信者优先;
4.熟悉各类深度学习网络和算子底层实现细节,有实操经验优先;
5.熟悉主流开源模型及其架构特点,具备针对不同模型进行分析优化的能力优先;
6.具备GPU、AI芯片体系结构知识,熟悉芯片特性,具备系统性能分析和调优经验优先。
加分项:
1.熟悉常见的算子编译优化、图优化和算子融合流程,如torch.compile,triton,tilelang等;
2.熟悉GPU/AI芯片编程,如CUDA,Ascend C等,熟悉cutlass等加速库;
3.机器学习或者体系结构相关顶会论文;…
招聘城市:北京
…具备良好的coding和调试能力;
2.熟悉主流大模型推理框架,如vllm,sglang,tensorrt-llm等,具备语言、多模态模型大规模部署和优化经验;
3.熟悉并行策略,如数据并行、流水线并行等,熟悉NVLINK、GPU RDMA通信者优先;
4.熟悉各类深度学习网络和算子底层实现细节,有实操经验优先;
5.熟悉主流开源模型及其架构特点,具备针对不同模型进行分析优化的能力优先;
6.具备GPU、AI芯片体系结构知识,熟悉芯片特性,具备系统性能分析和调优经验优先。
加分项:
1.熟悉常见的算子编译优化、图优化和算子融合流程,如torch.compile,triton,tilelang等;
2.熟悉GPU/AI芯片编程,如CUDA,Ascend C等,熟悉cutlass等加速库;
3.机器学习或者体系结构相关顶会论文;…
招聘城市:深圳
…性能优化的手段,结合线上实际情况,优化高性能LLM推理引擎;
3.负责大模型训练和推理前瞻性技术架构的调研和引入,技术方案不限于子图匹配、编译优化、模型量化等。
岗位要求:
1.本科及以上学历,计算机/电子/自动化/软件等相关专业,有AI工程优化经验的优先;
2.熟练GPU的高性能计算优化技术,深入理解计算机体系结构,熟悉并行计算优化、访存优化,低比特计算等;
3.具备丰富的基于CUDA的GPU性能优化经验;
4.了解深度学习算法基本原理,熟悉神经网络基本架构和各算子计算方式,了解至少一种深度学习训练框架及其模型文件的解析,如PyTorch、TensorFlow;
5.熟悉TensorRT-LLM、vLLM等,了解主流LLM模型,有LLM模型加速优化经验…
招聘城市:上海
…具备良好的coding和调试能力;
2.熟悉主流大模型推理框架,如vllm,sglang,tensorrt-llm等,具备语言、多模态模型大规模部署和优化经验;
3.熟悉并行策略,如数据并行、流水线并行等,熟悉NVLINK、GPU RDMA通信者优先;
4.熟悉各类深度学习网络和算子底层实现细节,有实操经验优先;
5.熟悉主流开源模型及其架构特点,具备针对不同模型进行分析优化的能力优先;
6.具备GPU、AI芯片体系结构知识,熟悉芯片特性,具备系统性能分析和调优经验优先。
加分项:
1.熟悉常见的算子编译优化、图优化和算子融合流程,如torch.compile,triton,tilelang等;
2.熟悉GPU/AI芯片编程,如CUDA,Ascend C等,熟悉cutlass等加速库;
3.机器学习或者体系结构相关顶会论文;…
招聘城市:深圳
…能力;
6.符合以下要求其中一条或以上:;
7.熟悉NIC/RDMA等内核网络协议栈和驱动设计实现,熟悉计算机网络,了解集合通信库(如: NCCL)和相关算法(如: AllReduce)的设计实现与性能分析优化
8.熟悉GPU、NPU计算加速卡卡间互联技术,包括互联应用场景,互联接口和互联组网。熟悉业界典型的互联方案;
9.熟悉CXL等内存一致性协议及应用场景,有相关异构架构设计经验者优先;
10.熟悉计算机体系结构,硬件设计和实现,熟悉ARM/RISC-V SOC体系架构;
11.熟悉PCIe、DDR、存储系统等总线和相关协议。
加分项:
1.有成功设计和实现AI硬件加速解决方案的项目经验;
2.熟悉深度学习框架和算法,具备一定的算法优化能力;
3.对硬件设计、验证…
招聘城市:上海
…团队致力于构建下一代智能内容分发系统,让用户发现更多“感兴趣”的内容。加入我们,用技术创造快乐,一起构建支撑亿万年轻人内容消费的智能引擎,在B站实现你的技术理想。
工作要求:
✓计算机相关专业本科及以上学历,具备扎实的C++/Python编程功底;
✓有大规模搜广推模型训练或推理的成功经验,了解PyTorch/TensorFlow等框架的底层原理;
✓有异构计算经验,熟悉GPU高性能计算,熟悉编译优化技术(TVM、TensorRT、XLA等)在模型推理中的应用;
✓深入理解千亿参数DNN模型的分布式训练和高性能推理技术,有超长序列建模(用户行为序列10K+)、参数scaling up等技术的实战经验;
✓熟练使用AI agent能力者优先
投递简历