牛大妈在社招职位搜索腾讯视频-大模型推理加速工程师-深圳杭州 有 1000+ 条结果

招聘城市:北京
…开发与推理效率优化,实现各相关AI算法的高质量落地;
2.蒸馏技术融合应用:结合生成类模型特性,将模型蒸馏技术(如DMD、CM等)融入推理引擎优化方案,在保证生成质量的前提下,进一步降低推理延迟。
岗位要求:
1.熟悉CPU/GPU异构开发,深入理解CUDA编程模型,能独立完成生成类模型推理加速或性能调优项目;
2.理解生成类模型的核心架构(如扩散模型UNet/Dit结构),熟悉推理过程中的关键性能卡点;
3.熟悉C++ 、Python、Linux、常用数据结构和算法;
4.工作踏实细致、具有较强的责任心及良好的团队合作精神,具有较强的学习能力;
5.在工作中富有激情,不畏困难,自我驱动。
岗位介绍:
腾讯,后台开发工程不仅是…
招聘城市:深圳
…降低推理延迟。
岗位要求:
1.熟练掌握C/C++, python语言,熟悉CPU/GPU异构开发,深入理解CUDA编程模型,能独立完成生成类模型推理加速或性能调优项目;
2.具备 TensorRT/TensorRT-LLM/FasterTransformer/vllm/sglang 等推理引擎深度实践经验,主导过基于上述引擎的模型推理系统定制化开发与性能调优;精通推理引擎底层优化技术(算子融合、量化策略、动态批处理、KV 缓存优化);
3.理解生成类模型的核心架构(如扩散模型UNet/Dit结构),熟悉推理过程中的关键性能卡点;
4.熟悉CPU/GPU异构加速瓶颈分析方法,有服务器端 AI 芯片、GPU加速经验优先。
岗位介绍:
渴望为世界带来新意的人,早已对描绘未来的“热词”不陌生——人工智能、机器学习、数据科学等等。腾讯
招聘城市:深圳

1.了解AI基础设施、机器学习系统或高性能计算相关领域经验, 具有 vllm/sglang/TensorRT/FasterTransformer 等推理引擎实践经验;
2.精通主流多模态或全模态模型,主导或核心参与过多模态模型项目优先;有行业落地案例或相关开源项目经验者优先;
3.熟悉主流深度学习框架的网络结构与算子底层实现细节,具备模型训练 / 推理调优、CPU/GPU 加速、分布式训练与推理部署的实操经验者优先;
4.熟悉分布式推理常用加速方法(算子融合、量化策略、动态批处理、KV 缓存优化等),有超大模型分布式部署经验优先;
5.在视觉问答、图像生成、视频理解/生成,语音识别/合成等领域有项目积累,或发表过相关方向顶级学术论文者优先;
6.具备较强的…
招聘城市:深圳
…但不限于:(Attention量化/稀疏加速、蒸馏加速、量化、投机解码、剪枝、KV Cache 压缩等等);
2.通过分析模型和任务性能瓶颈,设计创新的算法优化方案,提升多模态模型推理效率,显著降低端到端延迟;
3.作为算法与框架团队之间的技术桥梁,聚焦于图像理解、视频生成、音频理解生成、视觉多轮交互、实时对话等任务,提升模型推理端的性能;
4.高效协同框架开发及业务算法团队,确保技术方案落地。撰写高质量的技术文档与实验报告,并组织内部分享,推动团队整体技术认知提升。
岗位要求:
1.拥有计算机科学、人工智能、电子工程、自动化等相关专业。具备扎实的机器学习/深度学习基础;
2.精通Python编程,熟练掌握PyTorch等深度学习框架。对Transformer、Diffusion等模型架构…
招聘城市:深圳
…3.优化模型推理框架,提升框架易用性和可调试性。
岗位要求:
1.熟练掌握 C/C++、Python语言,有计算机体系结构背景或软件开发背景,熟悉系统性能调优的方式;
2.具备基础的GPU编程能力,包括但不限于Cuda、OpenCL;熟悉至少一种GPU加速库,如cublas、cudnn、cutlass等;
3.有Tensorrt/FasterTransformer/Tensorrt-llm/vllm等深度学习推理框架的实际使用经验;
4.熟悉各类深度学习网络和算子底层实现细节,训练和推理模型调试、调优有实操经验优先;
5.熟悉CPU/GPU异构加速瓶颈分析方法,有服务器端 AI 芯片、GPU加速经验优先;
6.熟悉分布式推理常用加速方法,有超大模型分布式部署经验优先。
岗位介绍:
腾讯,后台开发工程不仅是“又快又稳…
招聘城市:北京
…编程,如CUDA,OpenCL,Ascend C等,熟悉cutlass等加速库是加分项;
3.熟悉主流模型推理框架,如vllm,sglang,tensorrt-llm,FasterFransformer等;
4.熟悉各类深度学习网络和算子底层实现细节,训练和推理模型调试、调优有实操经验优先;
5.熟悉并行策略,如模型并行、流水线并行等,了解NVLINK、GPU通信者优先;
6.具备GPU、AI芯片体系结构知识,熟悉芯片特性,具备系统性能分析和调优经验优先;
7.加分项:;
8.机器学习或者体系结构相关顶会论文;
9.参与vllm、sglang等开源项目贡献者;
10.熟悉推理服务框架,具备服务部署经验者优先,有超大模型分布式部署经验优先。
岗位介绍:
腾讯,后台开发工程不仅是“又快又稳”的问题解决专家,更是生态共创者…
招聘城市:北京
…编程,如CUDA,OpenCL,Ascend C等,熟悉cutlass等加速库是加分项;
3.熟悉主流模型推理框架,如vllm,sglang,tensorrt-llm,FasterFransformer等;
4.熟悉各类深度学习网络和算子底层实现细节,训练和推理模型调试、调优有实操经验优先;
5.熟悉并行策略,如模型并行、流水线并行等,了解NVLINK、GPU通信者优先;
6.具备GPU、AI芯片体系结构知识,熟悉芯片特性,具备系统性能分析和调优经验优先;
7.加分项:;
8.机器学习或者体系结构相关顶会论文;
9.参与vllm、sglang等开源项目贡献者;
10.熟悉推理服务框架,具备服务部署经验者优先,有超大模型分布式部署经验优先。
岗位介绍:
腾讯,后台开发工程不仅是“又快又稳”的问题解决专家,更是生态共创者…
招聘城市:深圳
…3.优化模型推理框架,提升框架易用性和可调试性。
岗位要求:
1.熟练掌握 C/C++、Python语言,有计算机体系结构背景或软件开发背景,熟悉系统性能调优的方式;
2.具备基础的GPU编程能力,包括但不限于Cuda、OpenCL,熟悉至少一种GPU加速库,如cublas、cudnn、cutlass等;
3.具备Tensorrt/FasterTransformer/Tensorrt-llm/vllm/sglang等推理引擎的使用和性能优化经验;
4.熟悉各类深度学习网络和算子底层实现细节,具备训推模型调试、调优实操经验优先;
5.熟悉CPU/GPU异构加速瓶颈分析方法,有服务器端 AI 芯片、GPU加速经验优先;
6.熟悉分布式推理常用加速方法,有超大模型分布式部署经验优先。
岗位介绍:
腾讯,后台开发工程不仅是“又快又稳…
招聘城市:深圳
岗位职责:
1.负责从GPU优化TTS,LLM,VLM等模型推理引擎;
2.与模型算法同学深度合作,联合优化,打造行业领先的高性能推理引擎;
3.跟进机器学习前沿技术,将合适成果落地于实际应用。
岗位要求:
1.精通C/C++,精通常用数据结构与算法;
2.熟悉模型推理框架(如vLLM/SGLang/TRT-LLM等);
3.熟练掌握高性能计算优化技术,深入理解计算机体系结构,熟悉并行计算优化、访存优化,低比特计算等;
4.熟练掌握CUDA,有基于CUTLASS或PTX的GPU性能优化经验;
5.优秀的分析问题和解决问题的能力,对解决具有挑战性的问题充满激情;
6.责任心强,良好的业务意识,团队合作能力和沟通协调能力。
加分项:
1.有游戏开发经验…
招聘城市:北京
…1. 模型推理服务优化:
* 负责语言模型(LLM)推理性能的优化,包括延迟降低、吞吐量提升和资源效率优化
* 开发和应用模型压缩技术(包括但不限于量化、稀疏化等)
* 优化推理框架,支持多种硬件平台(GPU、专用AI芯片)
* 设计并实现高效、稳定、可扩展的推理服务架构
2. 性能分析与调优:
* 建立性能基准测试框架,持续监控和评估推理性能
* 分析性能瓶颈,提出并实施优化方案
* 针对不同应用场景(实时对话、批量处理等)定制优化策略
3. 技术创新与落地:
* 跟踪最新研究成果,将前沿优化技术应用到生产环境
* 与算法团队合作,参与模型架构的推理友好设计
* 编写高质量的技术文档和最佳实践指南
岗位要求:
1.必备条件:;
2.计算机、软件工程、人工智能等相关专业…
招聘城市:广州
岗位职责:
1.负责多模态模型(图文、视频)在红点推送、本地生活推荐等业务场景中的技术探索与落地应用,提升内容生成精准度和用户转化效率;
2.结合业务数据特点,优化多模态模型的后训练、领域微调、生成控制等技术,实现文案创意生成、个性化推荐、分发策略联动的闭环优化;
3.深入理解用户行为和场景需求,探索多模态生成模型与推荐系统的深度融合,提升内容触达的实时性和相关性。
岗位要求:
1.计算机科学、人工智能、自然语言处理等相关专业硕士以上学历;
2.熟练掌握模型训练、微调(如LoRA/P-tuning)、生成控制(如Prompt Engineering、Reward Model)等技术;
3.具备文案生成、推荐系统或模型应用落地经验者优先。
招聘城市:深圳
…高性能推理引擎;
3.跟进机器学习前沿技术,将合适成果落地于实际应用。
岗位要求:
1.精通TensorFlow、PyTorch等主流深度学习框架,具备扎实的模型训练、调优及线上部署实践经验;
2.精通C/C++,精通常用数据结构与算法;
3.熟练掌握高性能计算优化技术,深入理解计算机体系结构,熟悉并行计算优化、访存优化,低比特计算等;
4.熟悉模型推理框架(如vLLM/SGLang/TRT-LLM等),有推理优化经验者优先;
5.优秀的分析问题和解决问题的能力,对解决具有挑战性的问题充满激情;
6.责任心强,良好的业务意识,团队合作能力和沟通协调能力。
加分项:
1.有游戏开发经验;
2.熟悉NLP,CV,语音合成等深度学习算法;
3.有模型训练…
招聘城市:杭州
…多模态模型大规模部署和优化经验;
3.熟悉并行策略,如数据并行、流水线并行等,熟悉NVLINK、GPU RDMA通信者优先;
4.熟悉各类深度学习网络和算子底层实现细节,有实操经验优先;
5.熟悉主流开源模型及其架构特点,具备针对不同模型进行分析优化的能力优先;
6.具备GPU、AI芯片体系结构知识,熟悉芯片特性,具备系统性能分析和调优经验优先。
加分项:
1.熟悉常见的算子编译优化、图优化和算子融合流程,如torch.compile,triton,tilelang等;
2.熟悉GPU/AI芯片编程,如CUDA,Ascend C等,熟悉cutlass等加速库;
3.机器学习或者体系结构相关顶会论文;
4.参与vllm、sglang等开源项目贡献者。
岗位介绍:
腾讯,后台开发工程不仅是“又快又稳”的…
招聘城市:深圳
…生成统一模型、世界模型等,并应用在产品项目中;
3.参与项目讨论,基于技术判断和技术优化对相关产品应用提出改进建议。
岗位要求:
1.有模型相关经验者优先,包括预训练,精调、强化学习等技术的落地;
2.熟悉计算机视觉、多模态方面的相关研究工作和算法,在CVPR,ICCV,NIPS,ICLR、AAAI等学术会议或期刊以第一作者发表过论文者。
加分项:
1.熟悉TensorFlow,Keras,Pytorch等常规深度学习框架,具有较好的动手能力和执行力;
2.具备强烈的进取心、求知欲、团队合作精神及沟通意识,热衷于追求技术创新。
岗位介绍:
渴望为世界带来新意的人,早已对描绘未来的“热词”不陌生——人工智能、机器学习、数据科学等等。腾讯始终在…
招聘城市:深圳

1. 有国产 GPU / NPU 加速卡上 AIGC 模型的部署优化经验,有 Triton、CUDA 等的算子开发与调优经验
2. 了解 Sglang Diffusion、VLLM Omni、LightX2V 等 AIGC 推理框架
3. 对自回归视频生成模型、扩散语言模型、视觉统一理解生成模型有优化经验,了解 AIGC 模型的业界动态与趋势
4. 有 AI Agent 提效的工程化落地经验,能够支持个人与团队在 AIGC 模型部署、Profiling、优化等全生命周期的提效工作
岗位介绍:
渴望为世界带来新意的人,早已对描绘未来的“热词”不陌生——人工智能、机器学习、数据科学等等。腾讯始终在业界前沿不断探索,积极布局,并为优秀的你提供无限广阔的舞台。我们坚信科技的不断革新,最终能带来美好的…
招聘城市:广州
岗位职责:
1.负责开发模型训练平台,支持超大规模稀疏模型的秒级实时训练与推理;负责开发模型推理平台,支撑数百个模型的复杂环境下的高并发、低延迟、低成本运行和海量资源的实时调度;
2.支撑视频号短视频推荐、直播推荐、红点推荐、图文推荐等大规模、复杂业务矩阵的高效迭代。
岗位要求:
1.计算机相关专业,本科及以上学历,5年及以上工作经验 熟悉 Linux 开发环境、熟悉C/C++编程语言,熟练掌握常用算法和数据结构,有搜索/广告/推荐方向业务开发经验,熟练掌握至少一门脚本语言(shell/python等);
2.熟悉至少一种深度学习相关框架如tensorflow、pytorch等,有底层框架优化且开源经验;具备扎实数学/算法功底,对机器学习、概率统计等算法…
招聘城市:北京
岗位职责:
1.配合算法工程,推动模型相关算法的落地,打造高吞吐、低延迟的推理系统,在产品上实现快与准的交互体验;
2.探索面向高并发场景下(千万量级)的高性能推理服务架构,针对NVIDIA GPU、NPU等国产算力进行性能调优,包括算子融合、显存管理、计算图编译优化、Batching、KVCache管理,打造高效的推理服务架构,结合LLM能力实现业务的高效运转;
3.持续跟进业界最新Infra技术,如高效通信库、量化、稀疏蒸馏等训练部署方案,配合实际业务进行技术预研;
4.结合推理引擎和业务服务,优化动态流量调度、资源管理等结合业务实际情况的后台策略。
岗位要求:
1.具备扎实的编程语言基础,掌握 C++/Python/Golang 至少一门语言,熟悉Linux开发环境…
招聘城市:上海
…1.熟悉主流模型推理框架,如vllm,lightllm,tensorrt-llm,lmdeploy,faster transformer等;
2.熟悉CUDA,triton(https://openai.com/research/triton)、cutlass至少一种以上,精通者优先;
3.熟悉模型结构,了解模型性能瓶颈,熟练分析单机及分布式情况下不同性能热点和优化手段;
4.熟悉模型量化算法,int8/fp8/混合精度量化,了解模型蒸馏、稀疏化、剪裁技术;
5.熟悉推理服务框架,具备服务部署经验者优先,了解k8s,容器化服务,Triton Inference Server (https://github.com/triton-inference-server/server)实现原理者优先;
6.熟悉分布式模型部署及并行策略,如模型并行、流水线并行等,了解NVLINK、GPU通信者优先;
7.熟练掌握Python及C++;
8.了解GPU体系结构者优先。
岗位介绍:
腾讯,后台开发工程不仅是“又…
招聘城市:深圳
模型剪枝、模型量化、动态batch等方法;
3.调研前沿技术,推动稀疏化推理、异构推理、分布式推理等技术在搜索业务中的集成应用。
岗位要求:
1.熟练掌握 C++/Python/Go语言,有2年以上llm模型推理优化经验;
2.具备基础的GPU编程能力,包括但不限于Cuda、OpenCL;熟悉至少一种GPU加速库,如cublas、cudnn等;
3.有Tensorrt/Triton/sglang/vllm等推理框架的实际使用经验及二次开发经验;
4.熟悉量化、剪枝、动态Shape、算子融合等优化方法的基本原理和适用场景;
5.熟悉分布式推理常用加速方法,有超大模型分布式部署经验优先;
6.具备较强的抗压能力、团队协作和沟通能力,能够高效,完成项目交付和技术创新。
岗位介绍:
腾讯,后台开发工程
招聘城市:广州
岗位职责:
1.负责开发模型训练平台,支持超大规模稀疏模型的秒级实时训练与推理;负责开发模型推理平台,支撑数百个模型的复杂环境下的高并发、低延迟、低成本运行和海量资源的实时调度;
2.支撑视频号短视频推荐、直播推荐、红点推荐、图文推荐等大规模、复杂业务矩阵的高效迭代。
岗位要求:
1.计算机相关专业,本科及以上学历,5年及以上工作经验 熟悉 Linux 开发环境、熟悉C/C++编程语言,熟练掌握常用算法和数据结构,有搜索/广告/推荐方向业务开发经验,熟练掌握至少一门脚本语言(shell/python等);
2.熟悉至少一种深度学习相关框架如tensorflow、pytorch等,有底层框架优化且开源经验;具备扎实数学/算法功底,对机器学习、概率统计等算法…