AGI 推理引擎工程师 — 下一代 KVCache 存储与缓存加速 上海、北京 社招 全职 互联网 / 电子 / 网游 职位描述 一、为什么加入我们1. 离 GPU 最近的工程:你写的每一行代码都直接换算成显存、吞吐和成本——KVCache 是当下大模型推理性价比的核心战场,价值看得见、摸得着;2. AI First 文化:我们用 AI 重新定义开发范式,鼓励工程师把 AI 工具用到极致,也用 AI 加速自己的系统研发;3. 真实的大规模场景:千卡集群、千亿 token/天的在线推理,长上下文、高并发下的存储与调度挑战,是普通业务后端给不了的成长曲线;4. 扁平高效的团队:和推理引擎、算法、存储团队并肩作战,方案当天讨论、当天落地。二、我们在做什么MiniMax 正在构建驱动下一代 AGI 的推理基础设施。当上下文越来越长、模型越来越深,KVCache 已经成为推理时显存占用和成本的主导因素——谁能把
软件工程师 - 大模型端侧优化和部署 北京、广州、上海 全职 职位描述 负责将大模型部署到自动驾驶车端芯片平台(NVIDIA Orin / Thor 等),并进行极致的性能、内存与能效优化。你将在算力、内存、功耗与实时性严格受限、且对安全与稳定性要求极高的车载环境下,打通从推理引擎定制、核心算子优化到车端运行时管理的全栈链路,推动大模型在自动驾驶(端到端决策、场景理解等)场景的规模化落地。岗位职责1. 适配、移植与深度优化车端推理引擎/运行时(TensorRT-LLM、TensorRT Edge-LLM、vLLM、SGLang 等),通过计算图优化、算子融合、高性能 CUDA 算子开发及 KV Cache、投机采样等优化,充分发挥 Orin / Thor 平台算力,满足实时性要求;2. 建立 Benchmark 与 Profiling 体系,跟踪首字延迟(TTFT)、吞吐、内存峰值、冷启动、模型切换、cache 命中率、长稳与抖动等车端核心指标。支持场景理解、Function Calling、结构化输出、流式输出、多模态推理等核心场景的低延迟落地; 职位要求 1. 计算机、电子工程、人工智能、自动化等相关专业,本科及以上学历;2. 具备 2 年以上 AI
Job Description IME Standard Core Technologies Engineer Give life to your ideas. Decode the future. At Electrolux Group, a leading global appliance company, we strive every day to shape living for the better for our consumers, our
具身算法引擎开发实习生 上海 实习 职位描述 1. 训练框架开发:参与VLA等大模型训练框架研发与优化,包括数据并行、模型并行、流水并行等分布式训练能力的建设,提升千卡规模的训练稳定性与资源利用率。2. 推理系统优化:参与VLA等大模型的推理引擎开发与性能优化,包括算子优化、KV Cache管理、Prefill/Decode优化、Batch调度、低延迟Serving等核心能力建设,提升推理吞吐与响应速度。3. 分布式系统优化:参与多机多卡训练与推理系统建设,优化NCCL通信、AllReduce效率及IB/RDMA网络性能,提升大规模集群运行效率。4. 稳定性保障:解决大规模训练中的故障恢复、Checkpoint 管理、梯度异常等问题,确保长时间训练任务的稳定运行。5. 平台工程建设:参与训练/推理平台工程化建设,包括模型部署、监控、自动化测试、性能Benchmark及稳定性保障。 职位要求 1. 本科及以上学历,计算机、人工智能、自动化、机器人等相关专业优先2. 熟悉Python或C++开发,具备良好的代码能力与工程习惯3. 精通 PyTorch 分布式训练机制(DDP/FSDP),熟悉 DeepSpeed、Megatron-LM 、vLLM、SGLang等大规模训练/推理框架的原理与使用4. 深入理解 3D 并行(Data Parallel / Tensor Parallel / Pipeline Parallel)的实现原理与适用场景,能够根据模型特点设计最优并行策略5. 熟练使用 PyTorch Profiler、NVIDIA Nsight 等工具进行性能分析,能够定位并解决计算、通信、I/O 瓶颈加分项:1.
At Maersk, we have big plans for logistics and services. Our ambition is nothing less than to become the global leader in integrated logistics, offering a truly end-to end service that makes trade simpler and easier