牛大妈在校招职位搜索练习生分布式KVCache研发工程师 有 3 条结果

招聘城市：北京，上海，杭州
岗位职责：
1、负责面向多轮对话、多模态等场景的大规模KVCache研发，实现AI推理阶段以查代算
2、探索软硬一体化、推理框架KVCache Manager的元数据卸载等极致的性能加速手段
3、学习和吸纳业界优秀技术成果，积极探索和拓展创新的产品能力，构建行业第一梯队的产品和服务；
任职要求：
1、计算机相关专业，熟练使用AI coding类工具，具备扎实的工程能力并有成型的作品；
2、有Redis、KV数据库、表格数据库、全闪存高性能分布式存储等产品相关经验者优先；
3、具备良好的分析和解决问题能力，对技术有强烈的好奇心和热情，具备优秀的自驱力和心力；
4、具备良好的英文写作能力，熟练阅读英文论文，有…

招聘城市：北京，上海
…MaaS服务；
2、探索负载感知的推理系统流量调度算法，如基于Prefix Cache命中率调度、基于P/D分离的流量调度、基于KVCache使用率、推理排队负载感知的流量调度、长上下文请求调度优化等，持续提升MaaS系统的稳定性、成本效益；
3、探索并跟进业界开源SOTA模型，如Qwen系列、DeepSeek系列，多维度评估模型效果并建立相关的准入体系，及时上架到MaaS系统；
4、参与MaaS系统的国产卡适配与异构算力统一调度体系，如华为910C、阿里PPU、昆仑芯P800；
5、参与攻克大规模分布式推理系统带来的复杂挑战，通过弹性调度、容量规划、链路压测等手段提升系统健壮性，确保平台能够弹性扩展，支撑业务的飞速增长。
任职要求：
任职要求
1、熟悉业界…

招聘城市：北京，上海
…2、探索负载感知的推理系统流量调度算法，如基于Prefix Cache命中率调度、基于P/D分离的流量调度、基于KVCache使用率、推理排队负载感知的流量调度、长上下文请求调度优化等，持续提升MaaS系统的稳定性、成本效益；
3、探索并跟进业界开源SOTA模型，如Qwen系列、DeepSeek系列，多维度评估模型效果并建立相关的准入体系，及时上架到MaaS系统；
4、参与MaaS系统的国产卡适配与异构算力统一调度体系，如华为910C、阿里PPU、昆仑芯P800；
5、参与攻克大规模分布式推理系统带来的复杂挑战，通过弹性调度、容量规划、链路压测等手段提升系统健壮性，确保平台能够弹性扩展，支撑业务的飞速增长
任职要求：
任职要求
1、熟悉业界主流Dense…