工作职责:

- 大模型在国产GPU上的训练和推理的优化
- 大模型在国产GPU芯片的软硬件平台和算子的加速优化
- AI大模型推训优化的前沿技术研究和产品落地
- 搭建与维护评估基础设置，为大模型推训提供快速且准确的评估反馈

任职要求:

- 本科及以上学历，有一定程度的计算机相关专业知识背景
- 优秀的编码能力，熟悉Python/C/C++至少一项，有扎实的算法及数据结构基础，有良好的编程习惯
- 熟悉容器工作原理，容器运行时、容器网络等技术
- 熟悉PyTorch，了解Megatron、vLLM等大模型训推框架，做过测试、开发等工作
- 对GPU芯片架构有一定了解者优先，有大规模训练推理实践经验者优先
- 具备以下至少一个领域的深度实践经验优先：
- 推理优化：负载均衡、模型压缩（蒸馏/量化）、缓存策略、异构计算加速
- 训练优化：分布式训练、显存优化（如Zero/Offload）、混合精度、MoE架构调优
- 有独立的分析问题和解决问题的能力
- 有强烈的责任心，较强的学习能力和沟通能力
- 实习周期至少5个月