欢迎访问江苏招聘网!本站提供江苏招聘、南京、苏州找工作信息，致力于打造江苏省人才网人事|技能人才|就业为一体的南京、苏州人才市场，网上求职招聘就上江苏南京招聘网!
职位月薪： 面议
岗位职责： 1. 大模型推理全链路优化，通过量化、剪枝、KV Cache等技术提升吞吐、降低延迟、降本增效 2. 深耕vLLM、TensorRT-LLM等推理框架，二次开发与定制优化 3. GPU异构计算优化，运用CUDA编程、Tensor Core加速，解决算力利用率低、内存碎片化 4. 协同算法工程团队推动推理系统工程化，参与分布式推理部署，保障P99延迟、吞吐达标 5. 跟踪推测解码、动态批处理等前沿技术并落地 任职要求： 1. 本科及以上，计算机/电子/AI相关专业，有大模型推理加速/高性能计算经验，千亿级优化经验优先 2. 精通C++/Python，熟悉PyTorch，能独立完成推理优化开发调试优先 3. 熟悉NVIDIA GPU架构与CUDA生态，掌握CUDA Kernel/TensorRT，会用Nsight定位瓶颈 4. 深入理解Transformer推理流程，熟练使用至少一种主流推理框架，熟悉量化/剪枝/蒸馏 5. 有分布式推理部署、GPU集群优化或开源框架贡献经验者优先
微信扫一扫，及时了解投递状态
您目前还没有登录：立即登录岗位职责： 1. 大模型推理全链路优化，通过量化、剪枝、KV Cache等技术提升吞吐、降低延迟、降本增效 2. 深耕vLLM、TensorRT-LLM等推理框架，二次开发与定制优化 3. GPU异构计算优化，运用CUDA编程、Tensor Core加速，解决算力利用率低、内存碎片化 4. 协同算法工程团队推动推理系统工程化，参与分布式推理部署，保障P99延迟、吞吐达标 5. 跟踪推测解码、动态批处理等前沿技术并落地 任职要求： 1. 本科及以上，计算机/电子/AI相关专业，有大模型推理加速/高性能计算经验，千亿级优化经验优先 2. 精通C++/Python，熟悉PyTorch，能独立完成推理优化开发调试优先 3. 熟悉NVIDIA GPU架构与CUDA生态，掌握CUDA Kernel/TensorRT，会用Nsight定位瓶颈 4. 深入理解Transformer推理流程，熟练使用至少一种主流推理框架，熟悉量化/剪枝/蒸馏 5. 有分布式推理部署、GPU集群优化或开源框架贡献经验者优先
企业尚未更新
江苏省
扫描二维码及时订阅职位
最新职位信息第一时间知晓
快速入职
隐私保护
薪资透明
信息可靠
手机找工作
360行任你挑选
分秒必争直达HR
谁看我简历早知道
请使用微信【扫一扫】
关注「江苏人才服务网」公众号完成登录
客服电话：400-765-0056
竭诚为您服务
服务时间08:00-24:00
微信公众号
招聘交流群
微信小程序
面试通知
收藏
简历
足迹
微信求职
关注公众号
掌握最新求职动态
小程序
进入小程序
随时随地找工作
收藏
已收藏
小程序
微信分享
和TA聊一聊
投个简历
您已有可投递的在线简历：
公司信息
全职 
人力资源服务 
500-999人
江苏省,南京市 
给我留言
相关公司推荐
赣公网安备 36010202000597号