腾讯大模型推理性能优化工程师
深圳 · 社招 · 三年以上工作经验 · 工程与基础设施
需要对标的能力
大模型原理 · LLM 基础AI Infra · 推理部署成本优化 · 性能调优
岗位职责与要求
1.负责开发和优化TTS，LLM，VLM等大模型推理引擎；
2.与大模型算法同学深度合作，联合优化，打造行业领先的高性能推理引擎；
3.跟进机器学习前沿技术，将合适成果落地于实际应用。
1.精通TensorFlow、PyTorch等主流深度学习框架，具备扎实的模型训练、调优及线上部署实践经验；
2.精通C/C++，精通常用数据结构与算法；
3.熟练掌握高性能计算优化技术，深入理解计算机体系结构，熟悉并行计算优化、访存优化，低比特计算等；
4.熟悉大模型推理框架（如vLLM/SGLang/TRT-LLM等），有推理优化经验者优先；
5.优秀的分析问题和解决问题的能力，对解决具有挑战性的问题充满激情；
6.责任心强，良好的业务意识，团队合作能力和沟通协调能力。