牛大妈在社招职位搜索＂LLM大模型推理工程师＂ 有 3 条结果

招聘城市：深圳
岗位职责：
1.负责开发和优化大模型推理框架；
2.主要通过GPU、CUDA性能优化的手段，结合线上实际情况，优化高性能LLM推理引擎；
3.负责大模型训练和推理前瞻性技术架构的调研和引入，技术方案不限于子图匹配、编译优化、模型量化等。
岗位要求：
1.本科及以上学历，计算机/电子/自动化/软件等相关专业，有AI工程优化经验的优先；
2.熟练GPU的高性能计算优化技术，深入理解计算机体系结构，熟悉并行计算优化、访存优化，低比特计算等；
3.具备丰富的基于CUDA的GPU性能优化经验；
4.了解深度学习算法基本原理，熟悉神经网络基本架构和各算子计算方式，了解至少一种深度学习训练框架及其模型文件的解析，如PyTorch、TensorFlow…

招聘城市：北京
岗位职责：
1.参与服务业务场景的llm大模型部署、运维、推理优化开发等相关工作；
2.负责推理加速方法的工程实现和落地，包括但不限于模型剪枝、模型量化、动态batch等方法；
3.调研前沿技术，推动稀疏化推理、异构推理、分布式推理等技术在搜索业务中的集成应用。
岗位要求：
1.熟练掌握 C++/Python/Go语言，有2年以上llm大模型推理优化经验；
2.具备基础的GPU编程能力，包括但不限于Cuda、OpenCL；熟悉至少一种GPU加速库，如cublas、cudnn等；
3.有Tensorrt/Triton/sglang/vllm等推理框架的实际使用经验及二次开发经验；
4.熟悉量化、剪枝、动态Shape、算子融合等优化方法的基本原理和适用场景；
5.熟悉分布式推理常用加速方法，有超大…

招聘城市：深圳
岗位职责：
1.参与服务业务场景的llm大模型部署、运维、推理优化开发等相关工作；
2.负责推理加速方法的工程实现和落地，包括但不限于模型剪枝、模型量化、动态batch等方法；
3.调研前沿技术，推动稀疏化推理、异构推理、分布式推理等技术在搜索业务中的集成应用。
岗位要求：
1.熟练掌握 C++/Python/Go语言，有2年以上llm大模型推理优化经验；
2.具备基础的GPU编程能力，包括但不限于Cuda、OpenCL；熟悉至少一种GPU加速库，如cublas、cudnn等；
3.有Tensorrt/Triton/sglang/vllm等推理框架的实际使用经验及二次开发经验；
4.熟悉量化、剪枝、动态Shape、算子融合等优化方法的基本原理和适用场景；
5.熟悉分布式推理常用加速方法，有超大…