1 – 1 of 1 jobs
模型推理系统工程师 上海 校招 正式 技术族 - 软件类 职位 ID：A223864 职位描述 1. 负责机器人端侧模型运行后端建设，支持 SLM、VLM、Omni、TTS 等模型的稳定推理。2. 参与模型导出、量化、推理引擎构建、版本管理和性能基线建设。3. 支持 Model Gateway 后端能力，包括 Infer、Stream、Cancel、Warmup、Health、Metrics 等接口。4. 完成 TensorRT、TensorRT-LLM、ONNX Runtime、vLLM、SGLang 等推理后端适配。5. 分析模型 TTFT、P95/P99、内存峰值、吞吐、显存占用和端到端时延。6. 负责模型运行日志、端云对齐、结构化输出稳定性验证。7. 与模型训练、交互系统和 Infra 团队协作，推动模型在机器人端侧 Demo 中稳定运行。 职位要求 * 熟悉 C++