牛大妈在校招职位搜索基座大模型北斗实习大模型架构研究 有 43 条结果

招聘城市:北京,上海
模型架构优化探索,算法工程协同设计,涉及到训练和推理的各类算法和工程策略探索落地。参与美团基座模型项目,包含但不限于:
1、模型高效架构设计探索(高效attention,moe架构等)。
2、预训练 / 后训练算法工程策略。
3、投机推理算法工程策略。
4、模型轻量化策略(剪枝,量化,稀疏,蒸馏,结构搜索等) 。
5、Agentic coding系统优化策略。
任职要求:
1、熟悉一些常用的深度学习框架和大规模训推框架(比如megatron,verl,vllm,sglang等等),在模型上有训练和推理算法工程优化实际经验的优先;
2、熟悉机器学习和深度学习理论,具备扎实的编程能力,熟悉常见的主流模型架构
3、有模型或机器学习相关顶会论文发表,特别是模型架构
招聘城市:北京,上海
…这是工程复杂度最高、也最能锻炼系统能力的地方。
你可能会做以下方向研究
1、超大规模分布式训练
①设计和优化ND并行(EP/CP/DP/TP/PP)+ MoE并行混合策略,支撑万亿参数模型训练。
②深入 Megatron-LM 内核,针对美团模型架构做定制化设计、改造,性能优化。
③解决流水线气泡、显存碎片、梯度累积等大规模训练特有的工程难题,细粒度控制平衡计算通行的精度和效率。
2、计算 & 算子优化
①基于 CUDA / Triton 开发高性能训练算子(FlashAttention变体、FusedMLP、RMSNorm等)。
②推进 8bit、4bit 混合精度训练落地,在精度与速度之间找到最优平衡。
③通过 profiling 定位热点,把MFU(模型算力利用率)推向理论上限。
3、通信链路优化
①深挖 NCCL / RDMA / InfiniBand…
招聘城市:北京,上海
模型、音视频联合生成等,思考在模态统一、任务统一和多种模态联合生成过程带来新的能力跃迁并进行度量,分析模态和任务间的相互关联,指引模型架构、训练策略等选型。
3、多模交互方向:包括通用世界模型、音视频交互等,研究动态多轮交互中的一致性、真实性和长程记忆等关键能力的自动化度量,指引基座模型的迭代。
任职要求:
1、硕士及以上学历,计算机或相关专业,博士优先。;
2、在 ML / NLP / RL / CV / Speech 等相关方向有扎实的研究基础,在 ACL / EMNLP / NAACL / NeurIPS / ICML / ICLR / CVPR / ICCV / ICASSP 等顶级会议发表论文者优先;
3、优秀的代码和算法功底,具备工匠精神,ACM/ICPC、NOI/IOI、Top Coder、Kaggle等比赛获奖者优先;
4、在模型
招聘城市:北京,上海,深圳
…模态数据处理流程等。
2、视频多模态能力提升:负责解决多模态视频模型领域的前沿技术难题,如视频后训练、长视频时序理解、音视频等,探索短视频、长视频、视频流等不同形态的视频多模态方案,探究图像、视频统一的多模态解决方案。
3、视觉基座表征能力提升:面向不同的多模态架构和训练范式,从视觉基座的角度深入探索视觉连续表征和离散表征的联系和区别,负责探索更具通用性的多模态视觉特征,生产行业内领先的视觉基座
4、多模态理解生成统一:负责多模态理解与生成的前沿探索与研究,包括但不限于视觉表征统一训练、多模态统一架构探索、理解与生成任务关系研究
任职要求:
1、硕士及以上学历…
招聘城市:北京,上海
…式调优、调度优化、算法 co-design等,包括不限于 RLHF、RLVR、Agentic RL等范式。和算法共同提升模型各类专项能力,应用生产力等等
你可能从事以下方向:
1、RL训练系统架构
①设计和实现支持 PPO及各类变种算法的高效训练框架。
②Data/Env Scaling,优化并发调度效率 。
2、在线采样 & Rollout 优化
①优化RL场景(longcot、长尾分布、多轮交互)推理引擎效率,包括不限于量化、MTP、并行切分等等。
②训推混部署、全流程异步训练,提升 GPU 利用率。
3、 训推一致性
①训推引擎天然为了各自最大化效率存在精度差异,研究如何不断降低两者diff,包括不限于 Routing Replay、确定性计算等等。
4、训练稳定性
①攻克RL训练特有的奖励Hacking、训练不稳定、KL爆炸…
招聘城市:北京,上海,深圳
…2、实时全双工流式交互与动态响应: 研究面向真实对话场景的流式输入输出机制,攻克语音智能体在自然对话中的“听觉注意力”问题。探索支持随时打断(Interruption)、智能插话(Backchanneling)、端点检测(VAD)与即时状态切换的底层模型架构,实现媲美真人的丝滑对话节奏。
3、语音驱动的Agent规划与工具调用(Voice-to-Action): 探索如何将模糊、口语化、包含冗余信息的自然语音指令,直接转化为精准的Agent意图与工具调用(Tool Use/API Call)序列。研究语音模态下的长上下文记忆、多轮语音交互中的意图追踪,以及“边对话边执行任务”的并行处理能力。
4、面向语音Agent的高效对齐与强化学习: 探索适用于语音模型的训练范式与对齐策略。包括但不限于…
招聘城市:北京,上海,深圳
…与世界模型方向的前沿研究,可根据个人背景和研究兴趣选择以下方向之一深入推进:
1、高效率、低损失、高压缩比的图像视频 VAE 和 tokenizer 研究
2、统一生成模型架构、训练与推理探索(稀疏架构尺寸 MoE、自回归生成等)。
3、功能模型研究,包括参考生成、长视频生成、流式实时视频生成、音视频生成等。
4、隐式世界模型、WorldActionModel 及 Action-conditioned WorldModel 的方法研究
5、世界模型在具身智能、实时交互等场景中的应用探索。
6、其他你坚信路线正确的视觉生成与世界模型前沿方向。
任职要求:
1、熟悉扩散模型、VAE等相关研究进展;
2、熟悉PyTorch,有充分的动手实践经验。
加分项:
1、有图像/视频生成、Video-based世界模型相关研究实习经历…
招聘城市:北京,上海
…商业分析、精准营销与广告投放、个人助理与智能服务三场景,致力于用 AI Agent 重构人与数据、人与服务的交互方式。
【技术方向】
1、DataAgent 核心基建:攻坚复杂长周期任务的调度架构,解决大规模数据流转下的上下文治理、长期记忆与状态流控难题。
2、BA 场景工具链:构建高扩展性数据处理 Skill 体系与安全高效的代码执行沙盒,支持 Agent 智能调度高并发数据流处理工具。
3、精准营销 Agent:基于海量用户行为数据的宏观统计与微观推理,探索精细化需求理解与大小模型协同的高效系统设计。
4、Skill 体系与模型优化:探索 Skill 的表示、调度与自进化机制;推进 Agentic RL、自适应推理等模型训练与调优工作。
5、智能…
招聘城市:北京,上海
岗位职责:
简介:我们聚焦于多模态推理的前沿探索。你将参与具有前瞻性的研究,并可根据个人背景与兴趣,选择以下任一方向进行深入:
1、下一代多模态推理架构: 定义并实现复杂/统一多模态模型的高效推理框架。
2、实时交互演进: 针对多模态语音视频流,探索极致的系统级优化。
3、长文本/长视频突破: 深入研究长序列下的创新压缩算法与高性能推理加速方案。
任职要求:
1、熟悉模型推理原理及主流优化技术,拥有扎实的编程能力;
2、对多模态技术发展趋势有独立见解与思考;
3、具备极强的自驱力、创新意识与执行闭环能力;
加分项:
1、在相关领域有研究或项目实践经验;
2、对系统性能优化、压缩算法、实时…
招聘城市:北京,上海
…推动通用基座模型向原生Agentic Foundation Model演进,为构建下一代自主智能体提供坚实的底座支持。
1. 大规模高质量数据体系与合成数据建设
数据体系构建:建设 Trillion 级别的大规模跨模态数据处理与合成链路。负责从训练数据获取到配比建模的全流程优化
合成方法演进:探索大规模合成数据 (Synthetic Data) 与自蒸馏 (Self-distillation) 技术,制定合成数据应用策略
理论探索:研究Data Scaling Laws,解决数据扩展中的模型坍塌(Model Collapse)与多样性瓶颈问题,通过课程学习(Curriculum Learning)等训练策略,显著优化Token/FLOPs转化效率
2. 长上下文 (Long Context) 与高效架构演进
长窗口突破: 持续Scaling Up模型的Context Length,优化超长上下文机制,重点提升LongCat基座模型在长上下文上…
招聘城市:北京,上海
岗位职责:
简介:参与 OpenClaw 下一代 Agent 方向的前沿研究,可根据个人背景和研究兴趣选择以下方向之一深入推进:
1、Skill 体系建设与演化:探索 Skill 的表示、组织、调度与自进化机制,提升复用性与泛化能力。
2、模型训练与调优:包括 Agentic RL、模型自适应推理等,提升智能体在复杂任务中的规划、工具调用与执行能力。
3、OpenClaw C 端社区探索:用 AI Agent 重新定义人与信息的连接方式,从 0 到 1 构建产品与技术全链路。
4、Agent 框架能力建设:智能体架构优化、推理成本控制、上下文治理、长期记忆与执行效率提升等方向研究
5、其他你坚信路线正确的下一代 Agent 前沿方向。
任职要求:
1、有好奇心,敢想敢做,学习能力强,能…
招聘城市:北京,上海
…决策-控制底层架构。我们探索将视觉、语言与动作指令深度耦合,赋予机器人像人类一样“看懂世界、预判未来、灵活操作、自然交互”的原生能力,挑战物理世界中的复杂长程任务,推动具身智能从实验室走向千家万户。
具体地,我们关注如下研究方向:
1、具身模型感知与决策:探索构建端到端(End-to-End)的Vision-Language-Action(VLA)模型研究如何将海量互联网多模态数据与机器人异构动作数据进行统一表征预训练,提升模型在开放场景下的零样本任务泛化能力,实现从高层逻辑推理到底层电机控制指令的平滑映射。
2、物理世界模型与因果推理:研究基于生成式架构的物理世界模型,使机器人能够通过视频生成或…
招聘城市:北京,上海,深圳
…超越纯文本交互,在屏幕、软件乃至物理世界中运作——这要求模型具备将图像、视频、音频、文本等多模态感知与可靠的实时行动能力统一融合的底层能力。本课题聚焦于将全模态(Omni-modal)理解能力深度融入Computer Use Agent(CUA),构建"边看、边听、边想、边做"的原生全模态智能体系统,推动智能体从单一文本工具调用走向真实数字环境中的多模态自主操作。
具体地,我们关注如下研究方向:
1、全模态感知与GUI交互的统一建模:探索将视觉(屏幕截图、视频流)、听觉(语音指令、系统音频)、文本等多模态信号在统一架构下进行融合理解,使Agent能够基于多模态上下文进行精准的GUI元素定位、状态识别与操作决策,提升在复杂…
招聘城市:北京,上海,深圳
…包括稀疏架构尺寸MoE、自回归生成等;
3. 功能模型,包括参考生成、长视频生成、流式实时视频生成、音视频生成等;
4.实时交互视频世界模型的长时空一致性、动态性和交互控制能力增强,以及在可交互视频、虚拟人实时交互场景的应用。
任职要求:
1.熟悉扩散模型、VAE等相关研究进展
2.熟悉PyTorch,有充分的动手实践经验
加分项:
1.有图像/视频生成、多模态模型相关研究实习经历,有影响力的开源项目中做出过核心贡献
2.发表过高水平论文(如ICLR、CVPR、ICCV等),有相关竞赛经历并取得名次
岗位吸引力:
1.极具前沿性和爆发力的研究方向:你将站在视频生成基座Scaling、实时交互式生成、世界模型的交叉…
招聘城市:北京,上海
岗位职责:
简介:多模态训练pretrain和posttrain的前沿研究,可根据个人背景和研究兴趣选择以下方向之一深入推进:
1、超长序列的高效pretrain训练方案。
2、基于投机采样的方式加速多模态RL的训练效率。
3、针对compute use场景的大规模agentic RL 高效训练方案探索。
任职要求:
1、精通 C++/Python,熟悉 CUDA 编程、NCCL 通信库或 RDMA 网络优化;
2、具有很强的学习能力、复杂问题归纳梳理能力、沟通和团队协作能力,具备能够深度钻研技术的耐心;
3、至少深入研读过 Megatron-LM, vLLM, Sglang, VERL 其中之一的源码,并有过定制化修改或性能调优经历。
加分项目:
1、有很强的学术研究能力和优秀的学术成果(AI领域顶会/顶刊论文);
2、熟悉…
招聘城市:北京,上海
岗位职责:
简介:打造 world class,production ready 的模型推理引擎,可根据个人背景和研究兴趣选择以下方向之一深入推进:
1、异构硬件高性能推理算子研究与开发。
2、Model System Co -design,充分利用硬件特性。
3、Scale up & scale out 分布式推理系统设计,高效可靠的推理调度体系。
4、投机推理算法研究与落地。
5、模型/KVCache 量化算法研究与算子开发。
任职要求:
1、具有扎实的编程功底,熟悉 C++/CUDA 编程最佳;
2、深入理解 Transformer/MoE/Attention 等 LLM 概念;
3、熟悉 RDMA,PD 分离等技术;
4、有一手的开源推理引擎使用/开发/调优经验最佳。
招聘城市:北京,上海
岗位职责:
简介:模型的能力上限,很大程度取决于训练系统的天花板。我们在做的事:让千亿参数的模型在万卡集群上跑得更快、更稳、更省——把每一张GPU的算力榨干,把每一次训练崩溃的损失降到最低,把工程师等待结果的时间从“几天”压到“几小时”。
1、分布式训练框架优化
①深入源码,针对美团训练场景做定制化改造。
②设计和实现更高效的张量并行、流水线并行、数据并行混合策略。
③探索 MoE(混合专家) 模型的并行训练方案,解决专家负载均衡、通信爆炸等硬问题。
2、计算效率优化
①基于 CUDA / Triton 编写和优化高性能算子(FlashAttention、FusedMLP等)。
②分析训练 profiling 数据,定位计算/通信/内存的瓶颈…
招聘城市:北京,上海
岗位职责:
简介:Reasoning(推理)是模型理解和处理信息的核心能力,是通用智能水平逼近的重要观测维度。本课题聚焦于探究生成式模型的高级推理发生机制,提升模型在复杂任务上的推理表现。
研究内容包括但不限于:
1、复杂任务推理应用效果优化,诸如逻辑推理、数学推理、代码推理、跨模态推理、多模型决策等。
2、RL scaling,通过大规模强化学习持续提升模型推理能力。
3、Test time scaling,通过增加inference时消耗的算力持续提升模型推理能力。
任职要求:
1、熟悉NLP、LLM、RL等相关领域,对其中一个或多个方向有深入的研究经历,且有相关实际项目经验;
2、熟悉Python、C++等至少一门编程语言,熟悉LINUX环境;
3、熟悉 Megatron、DeepSpeed 等开源训练…
招聘城市:北京,上海
…研发基于模型的高效数据质量评估、去重与清洗算法,提高数据质量、多样性和覆盖度。
2、深入探究数据分布与模型能力的因果关系,建立“训练数据-模型效果”归因机制,探索并突破基座模型的能力上限。
3、探索自动化数据筛选机制、动态配比(Data Mixture)与多阶段训练范式,探索不同类型数据对模型能力的Scaling Law。
4、构建科学、多维度的基座模型能力和潜力评估,驱动预训练数据策略的优化,形成高效的数据迭代闭环。
任职要求:
1、硕士及以上学历,计算机、人工智能、数学、NLP等相关专业,博士优先;
2、在模型领域有研究基础,或参与过有影响力的开源项目,在ICLR/NeurIPS/ICML/ACL等顶会发表论文者优先;
3、对模型有浓厚…
招聘城市:北京,上海
岗位职责:
简介:语言模型后训练前沿算法研究包括但不限于:
1、对齐算法研发:包括 SFT 数据建设,指令微调等。构建高质量的训练数据,包括自动化数据清洗、合成数据生产、高质量 Prompt Engineering 等。优化模型复杂指令遵循、逻辑推理、创作写作、代码生成以及工具调用等能力,提升模型综合能力和用户体验。
2、人类偏好对齐:包括奖励模型、人类偏好对齐等前沿强化算法的探索和实践,提升模型在包括创意写作、对话风格以及模型内生安全对齐等人类偏好上的可控性,生成更符合人类价值观、逻辑习惯和审美偏好的内容。
3、跟踪并实现最新的后训练技术(如数据领域自动化配比、后训练机制设计和优化等)。
任职要求:
1、硕士及以上学历,计算机…