1 – 1 of 1 jobs
AI Infra 工程师 北京 技术 - 算法 本科及以上 职位描述 1、负责大模型推理框架的开发与优化，包括算子优化、显存/KV Cache 管理优化、分布式加速等技术方向； 2、参与高并发场景下的推理性能分析与瓶颈定位，推动改进方案落地； 3、探索低资源下的轻量化推理方案：量化、投机采样、Sparse Attention 等； 4、参与 Disaggregated Serving / PD 分离等新型推理架构的设计与实现； 5、与算法、业务团队协作，推动优化技术在业务中的规模化应用。 职位要求 1、计算机、人工智能、软件工程等相关专业本科及以上； 2、熟悉大模型推理优化方法，对主流开源推理框架（TensorRT-LLM、vLLM、SGLang 等）有开发或深度使用经验； 3、精通 Python/C++ 编程，有 CUDA 开发及 GPU 调优经验者优先； 4、具备良好的系统性能分析能力，熟悉 nsight/nvidia-smi/py-spy 等分析工具者优先。加分项：1、有国产
Recommended jobs for you
