工作职责:
- 基于百度天池超节点产品,聚焦Scale-up互联(卡间全互联,32~256卡)与Scale-out互联(跨节点RDMA)的双向优化与验证
- 深入RDMA协议(RoCEv2/InfiniBand),调优RNIC基础通信性能(拥塞控制、参数配置),建立通信基准测试体系,分析All-Reduce/All-to-All等集合通信算子的带宽与时延瓶颈,将卡间通信时延压缩至微秒级
- 基于SGLang/vLLM等推理引擎,优化TP/PP/EP并行策略下的通信调度,参与PD分离架构中KV Cache的高效RDMA传输,在昆仑芯超节点上部署主流大模型(如DeepSeek R1),端到端验证吞吐量(Throughput)、首Token延迟(TTFT)和每Token处理时间(TPOT)等核心指标,确保优化方案可落地
- 主动发现链路异常与性能瓶颈,独立提出创新性优化方案并推动闭环落地
任职资格:
- 熟悉RDMA协议及C/C++/Python
- 熟悉IBGDA、DeepEP等新技术
- 熟悉vLLM或SGLang框架
- 了解分布式并行策略与集合通信
- 具备自驱力与问题解决意识,实习6个月左右,工作地点北京