Infra开发工程师 上海 全职 职位描述 - 负责公司级AI Infra平台建设,为智能驾驶场景提供数据闭环、算力平台、AIOps等基础能力支持。 - 负责数据闭环的构建,建立高效的数据流转设施,搭建稳定的数据闭环链路 - 负责AI平台的设计与研发,建设GPU及异构加速卡的资源池化、任务调度与虚拟化能力。 - 负责向量检索、图数据库等AI基础能力的构建与性能优化。 - 探索并落地面向智能汽车行业的前沿AI Infra技术演进方案。 职位要求 - 具有计算机、人工智能、软件工程、电子信息等相关学科本科/硕士学历。 - 具备以下一项或多项经验: 1. 具备数据闭环、数据链路的开发经验;2. 大规模分布式训练/推理系统、AI平台、资源调度系统、向量检索或图数据库的设计与研发经验;3. 熟悉Linux环境下的Python与C++语言,具备良好的工程与代码规范;4. 熟悉PyTorch/TensorFlow等深度学习框架,具备底层优化或二次开发经验; - 具有良好的工作态度、团队合作精神、主观能动性和跨团队沟通能力。符合以下条件者优先: - 熟悉LLM、图像、多模态或VLA/VLM等模型的训练与推理优化; - 具备自动驾驶、机器人或智能汽车相关领域软件系统开发经验; - 有大模型预训练、RL训练或高性能推理引擎(如vLLM、TensorRT-LLM)的实战经验; - 具备高性能网络、分布式存储或集群调度系统经验。 投递...
【27届校招】AI Infra 部署工程师 广州、北京、上海 正式 研发 - 算法 通用智能板块 职位描述 职位描述:设计、实现与维护自动驾驶软件系统框架,优化系统的性能、延时、稳定性与算法工程师合作,完成端到端大模型的转换与部署,以及模型的预处理/后处理等开发工作负责模型的KPI评测与对齐工作负责功能开发完成后的实车联调、测试及迭代优化等工作 职位要求 岗位要求:计算机、电子信息等相关专业的硕士或博士精通C++、Python,具有良好的代码书写规范和文档编写能力熟悉多线程编程,深入理解计算机体系结构和高性能计算有Linux系统性能优化经验,熟悉常用调试工具具备优秀的问题分析、沟通及协作能力 加分项:熟悉 CUDA 内核与 TensorRT有实际的深度学习模型部署、性能优化经验有自动驾驶或机器人行业相关经验 投递...
【27届校招】AI Infra 推理优化工程师 广州、北京、上海 正式 研发 - 算法 通用智能板块 职位描述 职位描述:我们正在寻找一名专注于模型推理与模型优化的机器学习工程师。你将从模型结构和算法层面出发,对大规模深度学习模型进行优化,使其能够高效部署在小鹏定制的 AI 加速器上。我们通过数据驱动的模型压缩与结构改造,在保证精度的前提下显著降低推理延迟和内存占用。从模型和算法层面对深度学习模型进行推理优化,支持其在小鹏定制 AI 加速器上的高效部署我们的使命是解决自动驾驶,具身职能这一世界级难题。你将与机器学习工程师、编译器工程师和研究科学家紧密合作,将前沿的大模型研究成果转化为可落地的工程方案。 职位要求 职位要求:CS/CE/EE硕士学位,或同等学历,行业经验精通 Python 和 PyTorch,具备良好的研究型和工程型代码能力。对大模型结构(如 Transformer 及其变体)有深入理解。对模型推理框架和工具(onnx,TensorRT, TRT-LLM等)有深入了解。扎实的深度学习基础和推理流程认知。具备模型优化经验,如量化、剪枝、稀疏化、蒸馏等。具备较强的自主学习和论文阅读能力,能够独立推动问题解决。对挑战性和不确定性问题有好奇心,责任感和执行力。 投递...
训练AI Infra系统优化工程师 上海 校招 正式 技术族 - 软件类 职位 ID:A46765 职位描述 1. 大规模分布式训练系统:在千卡级GPU/NPU集群上构建稳定、高效的分布式训练系统,支持VLA、WM等具身大模型的预训练与微调;2. 训练数据加载流水线:构建从存储到GPU/NPU显存的高吞吐数据流水线,实现高效的数据预取、采样与加载,消除训练过程中的I/O Stall;3. 训练稳定性保障:解决大规模训练中的故障恢复、Checkpoint 管理、梯度异常等问题,确保长时间训练任务的稳定运行。 职位要求 1.熟练掌握C/C++/Python/Go至少一种编程语言,具备CUDA/OpenCL/CANN优化经验; 2. 熟悉PyTorch 分布式训练机制(DDP/FSDP),熟悉DeepSpeed或Megatron-LM等大规模训练框架的原理与使用;3. 熟悉并行策略:深入理解 多维并行(DP/TP/PP/EP/CP等)的实现原理与适用场景,能够根据模型特点设计最优并行策略;4. 具备性能分析与调优能力:熟练使用 PyTorch Profiler、NVIDIA Nsight 等工具进行性能分析,能够定位并解决计算、通信、I/O 瓶颈;5. 深刻理解典型预训练、持续训练、RL训练等算法原理以及在技术实现时软硬件系统层面挑战; 投递...
模型推理AI Infra开发工程师 上海 校招 正式 技术族 - 算法类 职位 ID:A125373 职位描述 1. 设计面向具身机器人本体亲和的轻量化、高性能推理框架,支持CNN、Transformer、Mamba、GNN等主流网络结构;2. 面向GPU/NPU的具身多模态算子开发与性能优化,实现内存复用、算子融合、数据排布优化、多流并行等通用加速策略;3.对模型推理过程进行时间、功耗、内存占用分析,定位瓶颈并设计软硬协同优化策略;4. 实现支持 PTQ/QAT 的量化工具链(INT8/INT4/FP8/MXFP8等浮点混合精度);5. 跟进VLA、世界模型、空间智能等最新算法架构趋势,及时洞察捕捉低精度量化、AI KernelGen、投机推理等在具身本体上的模型高效推理适配技术; 职位要求 1. 熟练掌握C/C++/Python/Go至少一种编程语言,具备CUDA/OpenCL/CANN优化经验;2. 深入理解至少一种推理引擎架构(如tensorrt/vllm/sglang/ktransformer/llama-cpp)推理框架架构;3. 熟悉模型量化原理(KL 散度、MinMax、LSQ、AWQ、GPTQ等)及相关工具链;4. 熟悉常见典型算子实现与优化(卷积、矩阵乘、激活、LayerNorm、Softmax、flashattention等);5. 熟悉MLIR、IREE、Triton、TileLang等至少一中AI编译框架; 投递...
具身智能算法工程师(预训练 Infra 方向)-觅蜂子公司 上海 校招 正式 技术族 - 算法类 职位 ID:A97791 职位描述 觅蜂科技(Maniformer)是全球领先的一站式物理AI数据服务平台,致力于打造具身智能数据的 “平台型供给” 基础设施,实现数据的体系化、标准化、规模化供给。1. 负责具身智能统一预训练框架的设计与迭代,支撑 VLA、大模型、世界模型、大小脑等多种模型架构的高效训练。2. 深入理解 VLA、多模态大模型、世界模型、视频生成等前沿算法,基于算法特性设计框架层面的训练策略与优化方案。3. 设计并实现多模态数据加载体系,支持图片、视频、点云、触觉等多种数据格式的高效接入与预处理。4. 设计并实现多种分布式并行策略(数据并行、模型并行、流水线并行、混合并行等),适配从百亿到千亿级参数模型的训练需求。5. 构建数据全生命周期闭环能力,包括数据版本管理、质量筛选、配比策略,打通从数据采集到模型训练的完整链路。6. 跟进预训练领域前沿进展,具备快速复现并工程化落地新算法的能力。 职位要求 1. 计算机、AI 等相关专业硕士及以上学历。2. 具备扎实的 Python/C++ 编程能力,熟悉 PyTorch 内部机制(分布式训练、自动微分、算子调度等)。3. 对多模态模型(VLM/VLA)、视频生成模型、世界模型等有深入理解,熟悉其训练范式、数据需求与常见优化技巧。4. 熟悉主流训练框架及分布式训练技术(DeepSpeed / Megatron / FSDP
具身智能算法工程师(后训练 Infra 方向)-觅蜂子公司 上海 校招 正式 技术族 - 算法类 职位 ID:A176440 职位描述 觅蜂科技(Maniformer)是全球领先的一站式物理AI数据服务平台,致力于打造具身智能数据的 “平台型供给” 基础设施,实现数据的体系化、标准化、规模化供给。1. 负责具身智能后训练框架的设计与迭代,构建支撑真机强化学习的规模化训练能力。2. 深入理解强化学习、模仿学习、在线学习等后训练算法(PPO/SAC/DAgger/RLHF 等),基于算法特性设计高效的训练架构与数据流。3. 设计并实现云端多机多卡训练 + 边缘多机多本体 rollout 的分布式异步训练架构,支撑从单机到百台规模的扩展。4. 构建多种后训练算法的统一框架支撑,实现新算法低成本快速接入与验证。5. 负责云边通信体系设计(权重同步、数据回传、时延隐藏),保障大规模分布式训练的效率与稳定性。6. 跟进后训练领域前沿进展(π0.6 / RLT / flow matching RL 等),具备快速复现并工程化落地新算法的能力。 职位要求 1. 计算机、AI、机器人等相关专业硕士及以上学历。2. 具备扎实的
系统研发实习生—AI Infra(工单智能化方向) 上海 校招 实习 研发 - 后端开发 职位描述 加入 AI 基础设施团队,你将在导师指导下参与工单系统的迁移、建设与智能化升级,并逐步承担系统的日常研发和维护工作。1、工单迁移与数据治理: 参与历史工单及相关流程从旧系统向新系统迁移,完成数据清洗、字段映射、校验、回滚方案和迁移工具开发,保障数据完整性与业务连续性;2、工单系统建设: 参与工单系统前后端功能、流程引擎、权限、通知及数据看板等模块的开发、测试、上线和维护,持续改善稳定性与使用体验;3、工单智能化: 基于历史和新增工单,参与数据集构建、知识整理、模型评测,并探索小模型、RAG 或 Agent 在工单分类、摘要、分派、相似案例检索、解决方案推荐和自动跟进等场景的应用;4、工作流优化: 分析工单流转数据和实际处理过程,识别重复操作与效率瓶颈,将有效方案沉淀为可配置、可观测、可持续迭代的自动化工作流;5、系统长期负责: 在导师和团队支持下,逐步负责工单系统的需求对接、技术方案、开发交付、监控告警、问题排查和文档沉淀,建立对系统全生命周期的理解;6、跨团队协作: 与算法、调度、运维及其他基础设施团队协作,理解 AI Infra 场景中的资源与服务流程,推动实际需求落地。你将收获:1、完整参与工业级工单系统从数据迁移、功能建设到智能化升级的全过程,而不只是完成单一功能;2、在真实业务数据和场景中实践 LLM、小模型、RAG、Agent 与评测体系,理解 AI 能力如何可靠地进入生产工作流;3、提升 Go / Python / TypeScript 等工程能力,并积累微服务、数据库、数据治理、可观测性和系统稳定性经验;4、在导师指导下逐步建立系统 owner 意识,锻炼需求分析、方案设计、项目推进和跨团队协作能力。 职位要求 1、在读学生: 本科或硕士在读,计算机、软件工程、人工智能、数据科学等相关专业;能够稳定实习
端云协同 AI Infra 专家 / 工程师 上海 社招 全职 技术 - 基础架构 职位 ID:A41424 职位描述 1. 负责端云协同 AI 架构设计,明确云侧模型、私有化服务、边缘节点、端侧设备之间的职责边界、数据流、控制流和安全边界。2. 围绕面壁miniCPM等系列产品,面向运营商营业厅、客服坐席、现场运维、企业办公终端、边缘网关等场景,建设端云协同的数字员工能力。3. 与 Infra 团队协作,打通云侧模型服务、RAG、Workflow、权限审计、日志监控和端侧运行环境。4. 负责端侧资源约束下的性能优化,包括量化、KV Cache、批处理、缓存策略、网络降级、异构算力调度和功耗控制。5. 沉淀端云协同部署规范、设备适配清单、性能 benchmark、故障排查手册和行业交付模板。 职位要求 1. 本科及以上学历,计算机、电子信息、自动化、通信、人工智能等相关专业。2. 3 年以上端侧 AI、边缘计算、推理优化、嵌入式系统、客户端基础架构或云边端协同系统经验。3. 熟悉 C/C++、Python,了解端侧或边缘设备上的性能调优、资源管理和系统问题排查。4. 熟悉至少一种推理框架或部署工具,如 llama.cpp、ONNX Runtime、TensorRT、SGLang 等。5.
AI院-推理Infra工程师(量化算法研究/推理框架优化/GPU优化) 北京、上海 全职 互联网 / 电子 / 网游 职位描述 【方向一】量化算法研究员-职位描述通过前沿的模型量化、压缩与推理加速技术,显著降低大语言模型及多模态模型的存储占用与计算成本,推动 LLM 的大规模部署。-工作内容1、研发及改进 PTQ(训练后量化)、QAT(量化感知训练)、混合精度量化等核心算法,针对LLM/VLM(大语言模型/视觉语言模型)设计定制化量化方案,持续优化模型精度与推理效率的平衡;2、探索并实践低比特量化(如INT8/INT4/FP8/FP4)、权重稀疏化、知识蒸馏等协同压缩技术,提升压缩率同时控制精度损失;3、开发及优化量化工具链,完成对 GLM 系列模型的转换、量化校准及部署集成;4、 跟踪学术界与工业界前沿量化技术,通过论文复现、实验对比推动技术迭代。-职位要求1、计算机科学、电子工程、数学等相关专业硕士及以上学历,3 年以上模型量化或推理加速经验;或优秀本科生具备扎实项目履历;2、深入理解 Transformer 架构及 LLM 推理流程,精通 Python,熟悉常见的开源 LLM 推理框架(sglang/vllm/trtllm 等);3、掌握量化原理(校准策略、量化粒度、误差分析)及主流算法(如GPTQ、AWQ);4、具有 CUDA/Triton 编程经验,能自主实现高性能算子或优化内核计算加分。【方向二】推理框架优化工程师-职位描述1、高性能算子开发与优化:负责AI模型(尤其是大语言模型及多模态模型)在GPU上的核心算子(Kernel)的设计、开发与极致性能优化,支撑训练和推理场景的高效运行。2、性能分析与调优:深入分析GPU应用程序的性能瓶颈,通过优化内存访问模式、线程调度、执行效率等手段,显著提升计算密集型任务的吞吐量和降低延迟。3、技术集成与应用:研究并应用业界前沿的优化技术(如模型量化QAT/PTQ、算子融合、动态形状支持、FlashAttention等),并将其集成至推理/训练引擎。-职位要求1、编程能力:具备3年及以上GPU编程与高性能计算优化经验,深入理解GPU架构、并行计算原理、计算机体系结构,具备高性能计算内核的开发与优化经验。2、精通C/C++,具备扎实的编程基础、良好的编程风格和丰富的调试经验;熟练掌握Python;熟悉Linux开发环境。3、性能优化经验:能够熟练使用Nsight Compute、Nsight Systems等GPU性能分析工具,有实际的性能优化案例和成果,能独立定位和解决复杂的性能问题。4、算法基础:熟悉基础数学函数、线性代数、矩阵运算、数值计算等数学库相关算法,了解深度学习常见算子的计算方式。【方向三】GPU优化工程师-职位描述利用对 cuda 生态软件和底层体系结构的了解,帮助团队优化训练和推理的计算效率。-工作内容1、高性能算子开发与优化:负责AI模型(尤其是大语言模型及多模态模型)在GPU上的核心算子(Kernel)的设计、开发与极致性能优化,支撑训练和推理场景的高效运行。2、性能分析与调优:深入分析GPU应用程序的性能瓶颈,通过优化内存访问模式、线程调度、执行效率、多流并行协同等手段,显著提升计算密集型任务的吞吐量和降低延迟。3、技术选型:对 GPU 领域相关的 DSL/编译器(例如 triton/cuteDSL/tilelang)等进行尝试和了解,确定团队内的 DSL/编译器的技术选型,为未来的迭代做好技术储备。-职位要求1、编程能力:具备3年及以上GPU编程与高性能计算优化经验,深入理解GPU架构、并行计算原理、计算机体系结构,具备高性能计算内核的开发与优化经验。2、精通C/C++,具备扎实的编程基础、良好的编程风格和丰富的调试经验;熟练掌握Python;熟悉Linux开发环境。3、性能优化经验:能够熟练使用Nsight Compute、Nsight Systems等GPU性能分析工具,有实际的性能优化案例和成果,能独立定位和解决复杂的性能问题。4、算法基础:熟悉基础数学函数、线性代数、矩阵运算、数值计算等数学库相关算法,了解深度学习常见算子的计算方式。 职位要求 -
AI院-训练Infra工程师 北京、上海 全职 互联网 / 电子 / 网游 职位描述 1、负责大规模预训练框架的研发、优化和维护,根据业务需求持续改进训练框架和策略,提升模型训练效率2、分析和定位训练中的性能瓶颈,实施针对性优化措施,提升训练效率和稳定性3、跟进业界技术进展,不断同步与集成最新训练优化策略 职位要求 1、对自然语言处理、计算机视觉和多模态算法有深入理解,熟悉主流的 LLM 和 VLM 模型架构,有分布式训练经验2、精通 Python 编程语言,熟悉 PyTorch 深度学习框架和 Megatron 分布式训练框架3、有大规模预训练优化 / MoE 训练优化经验的优先考虑加分项:1、在ACM、NOI、IOI、超算比赛中有获奖经历者优先2、具有 cuda 算子优化/profiling 能力者优先 投递...
Data Infra Tech Lead 北京、上海、苏州 全职 研发 - 高级技术职位 职位描述 1、负责自动驾驶 & 通用大模型双赛道的数据底层基建全链路架构设计与研发,搭建支撑 VLM 大模型、视频生成、自动驾驶世界模型、端到端智驾模型训练的高性能、高可扩展数据生产平台;2、打通图像、视频、激光雷达点云、多传感器时序数据全生命周期链路,构建行业领先的数据治理体系,用 AI 工程化能力反哺数据生产全流程,持续驱动模型迭代效率与数据质量上限。 职位要求 1、经验门槛:具备扎实的大规模分布式系统架构设计、底层数据平台基建开发经验,具备完整复杂系统从 0 到 1 架构搭建与迭代优化经验;2、编程能力:精通 Python,熟练掌握 Go/C++ 至少一门主力开发语言,具备优秀的工程化设计、代码架构与性能调优能力;3、大数据基建功底:深度精通分布式数据处理技术,拥有TB/PB 级海量多模态数据存储、计算、调度、流水线开发经验,熟悉湖仓一体、对象存储、分布式计算生态技术栈;4、大模型全流程认知:深度熟悉大模型训练全流程,完整了解预训练、SFT 微调、RLHF 对齐全链路,理解大模型训练对数据体系、数据质量、数据供给链路的核心诉求。加分项:1、具备自动驾驶领域数据基建经验优先,熟悉激光雷达点云、车载多传感器融合数据处理、智驾场景数据挖掘、自动驾驶世界模型 / 端到端大模型数据体系建设经验优先;2、有长视频数据处理、3D 数据基建、大规模预训练数据集构建经验优先。 投递...
AI Infra工程师 上海 正式 软件类 职位描述 1. 负责团队内 3D 视觉、视频生成、神经渲染等方向模型的训练与推理工程化落地,将算法原型转化为稳定、高效、可维护的生产级系统2. 参与大规模分布式训练与推理平台建设,优化数据处理、模型管理与评测流程,提升研发迭代效率3. 基于 C++/CUDA 进行核心算子与热点路径性能优化,针对大规模多模态场景做显存与吞吐优化4. 参与推理服务搭建与部署,包括模型导出、加速优化、批处理与并发调度,保障服务稳定性与可观测性5. 开发内部工程工具链,包括实验管理、性能评测、自动化测试与 CI/CD 集成,推动工程质量持续提升6. 与算法团队紧密协作,响应训练集群与线上服务的性能与稳定性问题 职位要求 1. 计算机、软件工程、电子信息、自动化等相关专业本科及以上学历,2025年9月至2026年8月毕业(或已毕业)2. 工程实现能力强,熟练掌握 C/C++、Python,代码风格良好,有完整项目或实习工程经验3. 熟悉 PyTorch 训练与推理流程,了解 Linux 开发环境、Git、Docker,有 GPU 集群使用经验4. 满足以下方向之一:有 CUDA/GPU 性能优化经验;有分布式训练或多机部署经验;有推理服务或高并发系统开发经验5. 对 AI 基础设施与工程化落地有强烈兴趣,沟通顺畅,结果导向,能与算法同学高效协作6. 加分项:有算子开发或深度学习框架扩展经验7.
数据Infra 后端开发工程师 深圳、上海、北京 全职 智能机器人板块 职位描述 1、负责机器人/具身智能场景下数据接入、解析、切分、清洗、质检、入湖、归档等数据管线能力建设,支撑多源异构数据稳定流转;2、设计并实现可扩展的数据处理 pipeline、算子编排、任务调度、运行监控和失败重试机制,提升数据生产链路的稳定性和效率;3、参与建设元数据管理、数据血缘、数据质量、数据版本管理等平台能力,支撑训练集、评测集和问题回溯流程;4、与算法、采集、运营、平台产品等团队协作,推动数据标准、处理规范和工程流程落地;5、参与数据平台服务化建设,包括接口设计、权限控制、资源调度、可观测性和 CI/CD 发布体系。 职位要求 1、计算机相关专业本科及以上学历,具备扎实的数据结构、系统设计和工程实现能力;2、熟练掌握 Python、Go、Java、C++ 中至少一门语言,有复杂后端系统或数据平台开发经验;3、熟悉 Spark、Flink、Ray、Kafka、Airflow、Argo、DolphinScheduler 等批处理、流处理或任务编排框架中的一项或多项;4、熟悉对象存储、Parquet、Arrow、Iceberg、Paimon、Hive Metastore 等数据湖/湖仓相关技术者优先;5、有良好的工程质量意识,熟悉监控告警、日志追踪、故障排查、性能优化和稳定性建设;6、具备较强的跨团队沟通能力,能够从业务目标出发拆解平台能力并推动落地。加分项1、有机器人、自动驾驶、大模型、多模态数据平台相关经验;2、有数据质量、数据血缘、元数据平台、训练/评测数据集管理平台建设经验;3、有大规模视频、图像、传感器、日志、状态流等异构数据处理经验。 投递...
【27届校招】具身数据infra工程师 深圳、上海、北京 正式 研发 - 算法 智能机器人板块 职位描述 岗位职责负责机器人数据采集链路及数据平台相关系统研发,覆盖采集任务下发、设备接入、数据上传、处理、管理、查询和展示等环节。根据个人技术专长承担 Web 前端、数据可视化、后端服务、开放接口或业务流程开发,推动功能从需求分析到上线交付。参与多模态数据的接入与管理,支持视频、图像、传感器、状态流和日志等数据的解析、组织、检索及使用。参与元数据、标签、数据质量、数据集管理和数据版本等能力建设,提升数据的可管理性、可检索性和可追溯性。建设面向数据生产与运营的任务管理、状态监控、异常处理和数据看板,提升数据流转效率和使用体验。参与 AI Agent 与数据能力的结合,探索数据查询、智能分析、工具调用和工作流编排等应用。 职位要求 任职要求计算机相关专业本科及以上学历,具备3年及以上前端、后端、全栈或数据平台相关开发经验。熟练掌握 React、Vue、TypeScript 或 Go、Java、Python、Node.js 中至少一个技术方向,具备良好的工程实现能力。熟悉 SQL、数据库、对象存储及常见数据处理方式,理解数据接入、清洗、质量校验、检索和消费等基本流程。具备接口设计、任务处理、权限控制、异常恢复和问题排查经验,能够独立承担功能或模块交付。对数据产品和数据使用场景有一定理解,能够将数据管理、检索、质量或分析需求转化为系统能力。熟练使用 AI Coding Agent 等 Vibe Coding 工具辅助方案设计、编码、测试和调试,并能审查和验证生成代码。具备良好的业务理解、沟通协作和自主推进能力。 投递...
We are now looking for Senior Software Engineer of AV Infrastructure and MLOps team! NVIDIA is playing a significant role in AI and Autonomous Vehicles industry with its powerful GPU products, high-performance DRIVE platform and a
多模态训练加速研发工程师-infra 北京、上海、深圳、成都 社招 全职 技术 - 算法 职位 ID:A160794 职位描述 1. 负责大规模分布式训练和推理的基础架构设计、开发、优化,支持千卡以上级别大规模模型训练;2. 针对多模态数据特点,通过多样化的分布式并行策略和通信优化技术,支持长序列训练,有效解决多模态场景下的训练效率瓶颈,追求业界最领先的性能;3. 构建和维护海量多模态数据的流式处理管道,有效支撑多模态大模型在大规模预训练阶段的数据高速加载;4. 负责多模态推理引擎的功能开发和性能优化,包括吞吐率优化、latency时延优化和性能瓶颈排查; 职位要求 1. 熟练掌握Transformer系列模型架构原理,精通至少一种开源训练框架,如Megatron-LM、DeepSpeed、Colossal-AI等,有大模型分布式训练调优经验者优先;2. 精通GPU系统架构和内存原理,有丰富的CUDA编程经验,能进行全面的GPU Profiling分析;3. 熟悉至少一种开源Serving框架,如vLLM、SGlang 等;4. 有扎实的工程算法基础和极佳的工程实现能力,精通C/C++ 和 Python 开发,常用设计模式、算法及数据结构; 投递...
SummaryDo you want to help build some of the largest and most consequential enterprise and customer technology systems in the world? Join Apple’s Information Systems and Technology (IS&T) organization.IS&T is the engine behind everything Apple does
可观测平台研发工程师-2027届 北京、上海 校招 正式 研发 - 后端开发 职位描述 1. 参与 MiniMax 面向大模型训练、推理和 Agent 场景的新一代可观测平台建设。2. 参与指标、日志、Trace、事件等数据采集、存储、查询和分析链路开发。3. 建设硬件、网络、存储、训练作业、推理服务等多层信号的统一观测能力。4. 参与故障归因、异常检测、成本分析、链路回放等 AI Infra 可观测能力建设。 职位要求 1. 2027届本科及以上学历,计算机、软件工程、人工智能、自动化等相关专业优先。2. 熟悉操作系统、网络、数据库或分布式系统基础,对复杂系统问题定位有兴趣。3. 熟悉 Prometheus、Grafana、OpenTelemetry、ClickHouse、ElasticSearch 等任一技术优先。4. 具备良好工程能力,熟悉 Go / Python / Java / C++ 中至少一种语言。5. 对大模型训练、推理服务、Agent 运行链路的可观测问题有兴趣,愿意建设复杂系统的问题定位基础设施。
模型推理系统工程师 上海 校招 正式 技术族 - 软件类 职位 ID:A223864 职位描述 1. 负责机器人端侧模型运行后端建设,支持 SLM、VLM、Omni、TTS 等模型的稳定推理。2. 参与模型导出、量化、推理引擎构建、版本管理和性能基线建设。3. 支持 Model Gateway 后端能力,包括 Infer、Stream、Cancel、Warmup、Health、Metrics 等接口。4. 完成 TensorRT、TensorRT-LLM、ONNX Runtime、vLLM、SGLang 等推理后端适配。5. 分析模型 TTFT、P95/P99、内存峰值、吞吐、显存占用和端到端时延。6. 负责模型运行日志、端云对齐、结构化输出稳定性验证。7. 与模型训练、交互系统和 Infra 团队协作,推动模型在机器人端侧 Demo 中稳定运行。 职位要求 * 熟悉 C++