牛大妈在社招职位搜索管线数据工程师深圳 北京 有 1 条结果

招聘城市:深圳
…海量数据、任务、资源、合理化系统设计,抽象,对各个可编排算子的合并、拆分,达成易用性和计算性能平衡。对热点的算子,考虑单点优化以及公共服务的方式达到平台级性能提升;
3.存储方向,构建服务于整个预训练和后训练的dataset,优化海量存储管理与访问方案(对象存储分层、冷热分层、缓存策略、数据压缩与列式格式优化、读写并发控制、成本与生命周期管理);
4.编写技术文档、最佳实践与性能评估报告,推动能力沉淀与工具链升级。
岗位要求:
1.本科/硕士及以上学历,有大模型管线架构、优化、存储等全链路万亿级数据计算存储经验;
2.精通 Python/C++/Java 中至少一种,有良好工程化编码能力与测试习惯;
3.熟悉端到端数据管线数据版本…