牛大妈在社招职位搜索大模型推理引擎研发工程师深圳 北京 上海 杭州 有 73 条结果

招聘城市:北京
…熟悉cutlass等加速库是加分项;
3.熟悉主流模型推理框架,如vllm,sglang,tensorrt-llm,FasterFransformer等;
4.熟悉各类深度学习网络和算子底层实现细节,训练和推理模型调试、调优有实操经验优先;
5.熟悉并行策略,如模型并行、流水线并行等,了解NVLINK、GPU通信者优先;
6.具备GPU、AI芯片体系结构知识,熟悉芯片特性,具备系统性能分析和调优经验优先;
7.加分项:;
8.机器学习或者体系结构相关顶会论文;
9.参与vllm、sglang等开源项目贡献者;
10.熟悉推理服务框架,具备服务部署经验者优先,有超大模型分布式部署经验优先。
岗位介绍:
在腾讯,后台开发工程不仅是“又快又稳”的问题解决专家,更是生态共创者。你将与技术团队一同沉淀…
招聘城市:北京
…熟悉cutlass等加速库是加分项;
3.熟悉主流模型推理框架,如vllm,sglang,tensorrt-llm,FasterFransformer等;
4.熟悉各类深度学习网络和算子底层实现细节,训练和推理模型调试、调优有实操经验优先;
5.熟悉并行策略,如模型并行、流水线并行等,了解NVLINK、GPU通信者优先;
6.具备GPU、AI芯片体系结构知识,熟悉芯片特性,具备系统性能分析和调优经验优先;
7.加分项:;
8.机器学习或者体系结构相关顶会论文;
9.参与vllm、sglang等开源项目贡献者;
10.熟悉推理服务框架,具备服务部署经验者优先,有超大模型分布式部署经验优先。
岗位介绍:
在腾讯,后台开发工程不仅是“又快又稳”的问题解决专家,更是生态共创者。你将与技术团队一同沉淀…
招聘城市:深圳
岗位职责:
1.配合算法工程,推动深度学习相关算法的落地,打造高吞吐、低延时的推理系统;
2.优化模型推理性能,提升吞吐并控制成本;
3.优化模型推理框架,提升框架易用性和可调试性。
岗位要求:
1.熟练掌握 C/C++、Python语言,有计算机体系结构背景或软件开发背景,熟悉系统性能调优的方式;
2.具备基础的GPU编程能力,包括但不限于Cuda、OpenCL,熟悉至少一种GPU加速库,如cublas、cudnn、cutlass等;
3.具备Tensorrt/FasterTransformer/Tensorrt-llm/vllm/sglang等推理引擎的使用和性能优化经验;
4.熟悉各类深度学习网络和算子底层实现细节,具备训推模型调试、调优实操经验优先;
5.熟悉CPU/GPU异构加速瓶颈分析方法,有服务器端 AI…
招聘城市:深圳
…领先的模型在线推理平台,构建支撑亿级日调用量的高性能、高可用、高扩展的服务体系,为公司AI业务提供坚实的推理能力基座;
2.负责设计高性能推理服务架构,结合推理引擎与底层硬件的核心特性,优化动态调度、资源管理等核心后台策略,实现服务性能与成本效益的最优化;
3.负责研发标准化的推理服务框架与配套工具链,打通从模型研发、性能优化到线上部署的全链路流程,提升推理服务工程化落地效率;
4.负责构建平台的高可用架构与可观测性体系,落地故障容灾、限流熔断等核心能力,为容量规划、应急响应提供数据与技术支撑,保障服务的可靠性。
岗位要求:
1.具备扎实的后端研发功底…
招聘城市:深圳
…语音模型研发支持,推动算法落地;
2.多模态模型性能优化及推理框架优化,提升整体吞吐、降低部署成本;提升框架易用性;
3.紧跟多模态生成和理解领域的技术前沿,推动技术创新在产品中落地;
4.针对落地业务,优化部署方案及适配定制化需求。
岗位要求:
1.了解AI基础设施、机器学习系统或高性能计算相关领域经验, 具有 vllm/sglang/TensorRT/FasterTransformer 等推理引擎实践经验;
2.精通主流多模态或全模态模型,主导或核心参与过多模态模型项目优先;有行业落地案例或相关开源项目经验者优先;
3.熟悉主流深度学习框架的网络结构与算子底层实现细节,具备模型训练 / 推理调优、CPU/GPU 加速、分布式训练与推理部署的实…
招聘城市:深圳
岗位职责:
1.负责语言模型推理加速引擎一念(https://github.com/Tencent/KsanaLLM)的研发和业务应用,助力业务降本提效;
2.与算法团队、产品团队紧密协作,理解业务需求并提供定制化的高性能计算解决方案;
3.持续跟踪HPC领域的前沿技术,推动新技术在一念的应用与创新;
4.解决高性能计算场景下的复杂技术问题,确保系统的稳定性和可扩展性。
岗位要求:
1.计算机相关专业本科及以上学历,2年以上高性能计算相关工作经验;
2.熟练掌握C++/Python等编程语言,有大规模并行计算或分布式系统开发经验;
3.深入理解计算机体系结构、并行计算原理,熟悉Nvidia GPU/NPU加速技术;
4.具备Linux系统下的高性能…
招聘城市:深圳
岗位职责:
1.负责语言模型推理加速引擎一念(https://github.com/Tencent/KsanaLLM)的研发和业务应用,助力业务降本提效;
2.与算法团队、产品团队紧密协作,理解业务需求并提供定制化的高性能计算解决方案;
3.持续跟踪HPC领域的前沿技术,推动新技术在一念的应用与创新;
4.解决高性能计算场景下的复杂技术问题,确保系统的稳定性和可扩展性。
岗位要求:
1.计算机相关专业本科及以上学历,2年以上高性能计算相关工作经验;
2.熟练掌握C++/Python等编程语言,有大规模并行计算或分布式系统开发经验;
3.深入理解计算机体系结构、并行计算原理,熟悉Nvidia GPU/NPU加速技术;
4.具备Linux系统下的高性能…
招聘城市:深圳
…熟悉深度学习模型从训练到推理的全链路转化逻辑,具备模型训推一体化问题定位(如精度漂移、性能衰减)与优化经验者优先;
5.精通 CPU/GPU 异构计算架构下数据传输瓶颈(PCIe 带宽、内存墙、缓存利用率)分析方法;具备服务器端 AI 芯片(如 NVIDIA H100/A100、昇腾 910)推理性能调优经验,熟悉硬件特性与软件适配策略者优先;
6.精通分布式推理核心技术(张量并行、流水线并行、ZeRO 优化、动态负载均衡),熟悉分布式通信框架(NCCL、MPI)底层原理;主导过千亿级以上参数模型分布式推理系统部署、性能调优与稳定性保障,具备超大模型推理成本优化实践经验者优先。
岗位介绍:
在腾讯,后台开发工程不仅是“又快又稳”的问题解决…
招聘城市:北京
…数据科学、模型训练数据管道服务、在线推理与离线推理、AI Agent与应用系统、隐私计算、图计算等;
3.与 K8S 深度融合,建设云原生环境下超大规模分布式系统的服务能力与平台化能力,为业务提供高可用、可扩展、高易用性的集群化服务;
4.参与开源共建与合作,提升团队与个人在业界的影响力。
岗位要求:
1.计算机相关专业,本科及以上学历,3年及以上工作经验;
2.精通 C++/Python/Java 中的一种,同时熟悉C++和Python更佳,具备丰富的大型软件系统研发经验;
3.具有数据 infra 或 AI infra 方向的从业经验,并且至少参与过一种分布式系统的研发、优化或运维,包括但不限于计算引擎、调度引擎、任务编排框架…

云和恩墨 社招专场丨销售售前研发技术服务,4类14种岗位,职等你来

全职 武汉,银川,烟台,济南,乌鲁木齐,北京,长春,深圳上海,成都,苏州,无锡,合肥,长沙,郑州,重庆,福州,厦门,太原,杭州,南京
招聘城市:武汉,银川,烟台,济南,乌鲁木齐,北京,长春,深圳上海,成都,苏州,无锡,合肥,长沙,郑州,重庆,福州,厦门,太原,杭州,南京
…小巨人”企业,“数字经济隐形独角兽企业”。覆盖行业8类,服务组织1,000+,支撑业务系统5w+,影响行业从业者30w+,是智能的数据技术提供商,坚持引领行业发展的不变初心。
招聘摘要: 云和恩墨是一家智能的数据技术提供商,是国家高新技术企业、中关村高新技术企业、专精特新“小巨人”企业等。现面向社会招聘以下岗位:招聘职位:技术顾问(Oracle方向)、技术顾问(MySQL方向)、技术顾问(PostgreSQL方向)、项目经理、客户经理、客户总监、合作伙伴发展部总经理、销售运营、解决方案经理、解决方案专家(军工行业)、解决方案总监、Java开发工程、AI研发工程、数据库运维软件产品运营专家。工作城市:武汉、银川、烟台、济南、乌鲁木齐、北京、长春、深圳上海、成都…

云和恩墨 社招专场丨12种岗位齐发,心动offer抢先拿下

全职 上海,武汉,长沙,银川,兰州,乌鲁木齐,烟台,济南,北京深圳,成都,苏州,南昌,郑州,天津,青岛,石家庄,广州,贵阳,合肥,无锡
招聘城市:上海,武汉,长沙,银川,兰州,乌鲁木齐,烟台,济南,北京深圳,成都,苏州,南昌,郑州,天津,青岛,石家庄,广州,贵阳,合肥,无锡
…企业、中关村高新技术企业、北京市企业技术中心、专精特新“小巨人”企业、“数字经济隐形独角兽企业”,覆盖行业8类,服务组织1,000+,支撑业务系统5w+,影响行业从业者30w+,是智能的数据技术提供商,坚持引领行业发展的不变初心。
招聘摘要: 云和恩墨是一家国家高新技术企业、中关村高新技术企业、专精特新“小巨人”企业,作为智能的数据技术提供商,现开展26届社招活动。招聘职位包括技术顾问(Oracle、MySQL、PostgreSQL方向)、项目经理、解决方案经理、解决方案总监、客户经理、客户总监、销售运营、Java开发工程、AI研发工程、数据库生态产品运营专家等,工作地点涉及上海、武汉、长沙、银川、兰州、乌鲁木齐、烟台、济南、北京深圳、成都…

施耐德电气 施耐德电气数字能效配电事业部核心岗位热招,共筑能源数字化未来

全职 北京上海,杭州,南京,武汉,深圳
招聘城市:北京上海,杭州,南京,武汉,深圳
…自动化、能源工程等相关专业;5年以上B端产品经理经验,其中至少3年AI/数据产品经验;熟悉能源行业(电力、光伏、储能、数据中心)业务逻辑与指标体系;掌握传统机器学习与模型方法论,理解基础算法逻辑;了解现代数据栈,熟悉数据湖、知识图谱构建逻辑;具备结构化思维,能抽象标准化产品模型;目标导向,抗压能力强,可推动POC落地;具备复杂B端产品架构能力与商业敏感度,能将AI技术转化为可售卖产品与服务;加分项:大型工业软件/PaaS平台产品转型经验;了解Palantir Foundry等平台理念;具备数据中心、智慧园区、工业互联网AI项目落地经验。投标工程工作地点:北京/上海职位描述:为销售及行业合作提供电力系统自动化、低压配电…
招聘城市:上海
岗位职责:
1.研发及优化模型推理引擎、PD分离推理调度系统,提升大规模分布式推理系统的整体效率;
2.支持主流GPU和异构AI芯片,优化模型推理性能,打造极致性能成本优势。
岗位要求:
1.熟练掌握C/C++、Python编程语言,具备良好的coding和调试能力;
2.熟悉主流模型推理框架,如vllm,sglang,tensorrt-llm等,具备语言、多模态模型大规模部署和优化经验;
3.熟悉并行策略,如数据并行、流水线并行等,熟悉NVLINK、GPU RDMA通信者优先;
4.熟悉各类深度学习网络和算子底层实现细节,有实操经验优先;
5.熟悉主流开源模型及其架构特点,具备针对不同模型进行分析优化的能力优先;
6.具备GPU、AI芯片体系结构知识,熟悉芯片特性,具备系统性能…
招聘城市:北京
…和推理引擎的开发、优化、交付等);
2.负责AI系统最新算法的集成、工程化、实际场景效果验证、优化、上线;
3.负责AI相关业务、产品的工程支持,在效果和性能上更好的落地。
岗位要求:
1.本科及以上学历,计算机相关专业,本科毕业后有5年以上工作+学习的经验;
2.全面的计算机体系相关知识、基础扎实,有较好的数据结构基&算法基础,具备良好的思维逻辑;
3.精通c/c++/python语言,熟悉golang语言更佳;
4.优秀的分析与解决问题的能力,良好的沟通与团队合作能力;
5.具备一定的分布式系统、微服务架构、数据库技术、缓存技术、消息队列、rpc等相关技术经验;
6.熟悉TTS、ASR、声学前处理、自然语言处理、多模态模型等…
招聘城市:上海
…存格式者优先;
4.熟悉 Spark、Flink、Presto、Hive 等主流数据计算引擎者优先。
岗位介绍:
在腾讯,后台开发工程不仅是“又快又稳”的问题解决专家,更是生态共创者。你将与技术团队一同沉淀优质代码,让它成为我们共有的宝贵资产。在不同的业务场景和技术发展阶段,你的架构思维也将帮助更多协作团队拓展新的思考。我们也珍视你的挑战精神,同时欢迎你一起参与团队愿景、文化和产品方向的探讨。
部门介绍:
机器学习平台部负责腾讯“太极”机器学习平台的建设,构建面向搜索、广告、推荐的稀疏模型语言模型及稠密模型和通用机器学习的平台能力,为腾讯广告,微信搜索、社交、游戏、金融、云等多个业务…
招聘城市:上海
岗位职责:
1.研发及优化模型推理引擎
2.推广公有云客户,创造技术优势引导客户上云;
3.对接客户业务,分析性能瓶颈,定位、解决问题;
4.协助业务内部集群部署,持续迭代性能,保持业内领先优势。
岗位要求:
1.熟悉主流模型推理框架,如vllm,lightllm,tensorrt-llm,lmdeploy,faster transformer等;
2.熟悉CUDA,triton(https://openai.com/research/triton)、cutlass至少一种以上,精通者优先;
3.熟悉模型结构,了解模型性能瓶颈,熟练分析单机及分布式情况下不同性能热点和优化手段;
4.熟悉模型量化算法,int8/fp8/混合精度量化,了解模型蒸馏、稀疏化、剪裁技术;
5.熟悉推理服务框架,具备服务部署经验者优先,了解k8s,容器化服务,Triton Inference Server (https://github.com/triton-inference-server/server)实现原理者…
招聘城市:杭州
岗位职责:
1.研发及优化模型推理引擎、PD分离推理调度系统,提升大规模分布式推理系统的整体效率;
2.支持主流GPU和异构AI芯片,优化模型推理性能,打造极致性能成本优势。
岗位要求:
1.熟练掌握C/C++、Python编程语言,具备良好的coding和调试能力;
2.熟悉主流模型推理框架,如vllm,sglang,tensorrt-llm等,具备语言、多模态模型大规模部署和优化经验;
3.熟悉并行策略,如数据并行、流水线并行等,熟悉NVLINK、GPU RDMA通信者优先;
4.熟悉各类深度学习网络和算子底层实现细节,有实操经验优先;
5.熟悉主流开源模型及其架构特点,具备针对不同模型进行分析优化的能力优先;
6.具备GPU、AI芯片体系结构知识,熟悉芯片特性,具备系统性能…
招聘城市:北京
岗位职责:
1.研发及优化模型推理引擎、PD分离推理调度系统,提升大规模分布式推理系统的整体效率;
2.支持主流GPU和异构AI芯片,优化模型推理性能,打造极致性能成本优势。
岗位要求:
1.熟练掌握C/C++、Python编程语言,具备良好的coding和调试能力;
2.熟悉主流模型推理框架,如vllm,sglang,tensorrt-llm等,具备语言、多模态模型大规模部署和优化经验;
3.熟悉并行策略,如数据并行、流水线并行等,熟悉NVLINK、GPU RDMA通信者优先;
4.熟悉各类深度学习网络和算子底层实现细节,有实操经验优先;
5.熟悉主流开源模型及其架构特点,具备针对不同模型进行分析优化的能力优先;
6.具备GPU、AI芯片体系结构知识,熟悉芯片特性,具备系统性能…

小红书(xiaohongshu) 模型 MaaS 网关研发工程/专家

全职 北京上海,杭州
招聘城市:北京上海,杭州
…的请求调度与服务治理体系,提升模型服务的稳定性和资源效率。
5、开发者体验优化:持续优化统一 API、SDK、文档、监控、问题诊断和接入流程,提升内部 AI 应用开发效率。
6、业务打通与协同:与推理引擎、调度、算法及上层业务团队协同,为社区、搜索、审核、企效、AI 应用等场景提供开箱即用的模型服务能力。
任职要求:
1、熟悉 Go / Rust / Java / Python / C++ 中至少一门语言,具备扎实的服务端研发能力。
2、有大规模分布式系统、高并发 API 网关、服务治理、流控限流、鉴权、多租户系统等相关经验。
3、能对复杂业务问题进行系统建模和抽象,具备良好的稳定性、可观测性和工程质量意识。
4、了解模型推理服务基本链路,对模型部署…

小红书 模型推理框架研发工程/专家

全职 北京上海
招聘城市:北京上海
…工具、RedServing 推理部署引擎、DirectLLM 模型 API 服务、QuickSilver 模型生产部署平台等核心产品,持续赋能社区、商业、交易、安全、数平、研效等多个核心业务,实现 AI 技术高效落地!
工作职责:
1、参与/负责研发面向语言模型(LLM)/多模态模型(MLLM)等类型模型推理服务框架;
2、参与/负责KV Router、PD分离/EPD分离、KVCache管理、动态PD调整等分布式推理能力建设;
3、通过并行计算优化、分布式架构优化、异构调度等多种框架技术,打造高效、易用、领先的AI推理框架;
4、参与/负责构建推理框架的系统容错能力,包括但不限于请求迁移、优雅退出、故障检测、自愈等能力建设;
5、深度参与周边深度学习系统多个子方向的工作,包括但不限于模型管理、推理部署、日志…