腾讯大模型推理框架研发工程师
杭州 · 社招 · 三年以上工作经验 · 工程与基础设施
需要对标的能力
大模型原理 · LLM 基础AI Infra · 推理部署多模态 · AI 生图AI 工程设计模式
岗位职责与要求
1.研发及优化大模型推理引擎、PD分离推理调度系统，提升大规模分布式推理系统的整体效率；
2.支持主流GPU和异构AI芯片，优化大模型推理性能，打造极致性能成本优势。
1.熟练掌握C/C++、Python编程语言，具备良好的coding和调试能力；
2.熟悉主流大模型推理框架，如vllm，sglang，tensorrt-llm等，具备语言、多模态模型大规模部署和优化经验；
3.熟悉并行策略，如数据并行、流水线并行等，熟悉NVLINK、GPU RDMA通信者优先；
4.熟悉各类深度学习网络和算子底层实现细节，有实操经验优先；
5.熟悉主流开源模型及其架构特点，具备针对不同模型进行分析优化的能力优先；
6.具备GPU、AI芯片体系结构知识，熟悉芯片特性，具备系统性能分析和调优经验优先。