191、大模型推理优化：vLLM与TensorRT-LLM在机器人服务化部署深夜两点十七分，机房里只剩下服务器风扇的嗡鸣。我盯着终端里那行反复出现的CUDA out of memory，感觉自己像个对着漏水水管的管道工——明明知道问题在哪，就是堵不住。这是给某工厂做的机械臂分拣系统，视觉语言模型负责理解“把红色螺栓放到三号托盘”这类指令，推理延迟却卡在1.8秒，完全达不到产线要求的500毫秒以内。后来我把模型从HuggingFace的原始实现换到vLLM，延迟直接砍到320毫秒，再换到TensorRT-LLM，又压到180毫秒。这篇文章会按「问题背景 → 工具原理 → 踩坑实录 → 性能调优 → 架构落地」的顺序展开，每个部分都配有具体的数字和代码片段，方便你直接对照自己的场景复用。今天这篇笔记，就把这两个工具在机器人服务化部署里的实战经验摊开讲。先说清楚一个容易混淆的点：vLLM和TensorRT-LLM不是二选一的关系，它们解决的是不同层面的问题。vLLM的核心是PagedAttention——把KV Cache按页管理，像操作系统管理内存那样，避免显存碎片化。这对机器人场景特别重要，因为我们的请求长度极不稳定：有时候是“把左边第二个箱子拿过来”这种短指令，有时候是“先抓取A，放到B旁边，注意避开C，然后回到原点”这种长链条任务。为了更直观地对比两者的定位差异，可以看下面这张图：
191、大模型推理优化：vLLM与TensorRT-LLM在机器人服务化部署深夜两点十七分，机房里只剩下服务器风扇的嗡鸣。我盯着终端里那行反复出现的CUDA out of memory，感觉自己像个对着漏水水管的管道工——明明知道问题在哪，就是堵不住。这是给某工厂做的机械臂分拣系统，视觉语言模型负责理解“把红色螺栓放到三号托盘”这类指令，推理延迟却卡在1.8秒，完全达不到产线要求的500毫秒以内。后来我把模型从HuggingFace的原始实现换到vLLM，延迟直接砍到320毫秒，再换到TensorRT-LLM，又压到180毫秒。这篇文章会按「问题背景 → 工具原理 → 踩坑实录 → 性能调优 → 架构落地」的顺序展开，每个部分都配有具体的数字和代码片段，方便你直接对照自己的场景复用。今天这篇笔记，就把这两个工具在机器人服务化部署里的实战经验摊开讲。先说清楚一个容易混淆的点：vLLM和TensorRT-LLM不是二选一的关系，它们解决的是不同层面的问题。vLLM的核心是PagedAttention——把KV Cache按页管理，像操作系统管理内存那样，避免显存碎片化。这对机器人场景特别重要，因为我们的请求长度极不稳定：有时候是“把左边第二个箱子拿过来”这种短指令，有时候是“先抓取A，放到B旁边，注意避开C，然后回到原点”这种长链条任务。为了更直观地对比两者的定位差异，可以看下面这张图：
