工作职责:
-负责百度文心大模型推理基建体系的搭建与演进
-全面参与大模型推理全链路能力建设,涵盖推理功能开发、后训练适配及深度性能优化,重点推进计算模块在GPU下的极致调优
-主导推理引擎、高性能计算库及通信库的设计、开发与迭代,构建自主可控的高性能推理底座
-负责模型结构与推理优化协同设计,加速算法与推理系统协同优化,RL Infa协同设计优化
-负责 AI Infra 前沿进展跟踪调研,开展前瞻性研究与工程验证,推动关键技术突破与创新落地
任职资格:
-本科及以上学历,计算机、软件工程、人工智能等相关专业
-掌握C++/Python,掌握CUDA、CUTLASS、CuTe、Triton、TileLang编程
-熟悉并行计算、分布式系统、存储等相关技术,掌握注意力及矩阵计算优化、批调度策略、分离部署、Cache池化与传输优化等大模型推理核心优化技术
-有CUDA 编程或高性能计算经验者优先,有计算通信优化、编译优化、巨型算子优化经验者优先
-有vLLM / SGLang / TensorRTLLM 等主流推理引擎经验者优先,有Agent场景Cache池化优化经验者优化
-有大模型低比特量化、投机解码、稀疏注意力等相关项目或实习经历者优先
-有大模型推理系统、大规模调度平台相关项目或实习经历者优先
-自驱、敢啃硬骨头,对算法前沿保持真实的好奇心;有开源贡献或顶会论文(OSDI / SOSP / MLSys / NeurIPS / ICML 等)是显著加分项
-软素质要求:结果导向,具备强烈的技术探索自驱力;优秀的团队协作与跨部门沟通能力;善于独立分析和解决复杂系统问题;学习敏锐度高,具备快速迁移知识到新场景的能力