招聘城市:北京,上海
岗位职责:
1、横评端侧开源 LLM(Gemma/Qwen/Phi/Llama),建立准确率 × 延迟 × 内存的 Pareto 基线
2、研究 Tool-Use 场景下的量化精度损失与补回方案(GPTQ/AWQ + LoRA 微调)
3、设计端云 Hybrid 路由策略:哪些意图端侧跑、哪些上云
4、构建端侧 Agent 评测 Benchmark
任职要求:
1、硕士/博士在读,熟悉 Transformer 架构与 LLM 推理流程
2、熟悉 PyTorch,了解 LiteRT / llama.cpp / ExecuTorch 等推理框架至少一种
3、有模型量化或蒸馏实践经验
4、加分:Android NDK 经验 · NPU 编程 · MLSys/MobiSys 发表
岗位职责:
1、横评端侧开源 LLM(Gemma/Qwen/Phi/Llama),建立准确率 × 延迟 × 内存的 Pareto 基线
2、研究 Tool-Use 场景下的量化精度损失与补回方案(GPTQ/AWQ + LoRA 微调)
3、设计端云 Hybrid 路由策略:哪些意图端侧跑、哪些上云
4、构建端侧 Agent 评测 Benchmark
任职要求:
1、硕士/博士在读,熟悉 Transformer 架构与 LLM 推理流程
2、熟悉 PyTorch,了解 LiteRT / llama.cpp / ExecuTorch 等推理框架至少一种
3、有模型量化或蒸馏实践经验
4、加分:Android NDK 经验 · NPU 编程 · MLSys/MobiSys 发表