Spring AI 调 vLLM 报 400 错误?分块传输编码是坑,换 Jetty 客户端就通了

发布时间:2026/9/18 23:23:08

Spring AI 调 vLLM 报 400 错误?分块传输编码是坑,换 Jetty 客户端就通了 Spring AI 调 vLLM 报 400 错误分块传输编码是坑换 Jetty 客户端就通了【免费下载链接】spring-aiAn Application Framework for AI Engineering项目地址: https://gitcode.com/GitHub_Trending/spr/spring-ai根因是 vLLM 不认分块传输编码Chunked Transfer Encoding而 Spring AI 默认 HTTP 客户端正按分块方式发请求体Request Body调用直接吃 400 错误。最简修复把 RestClient、WebClient 底下的客户端换成 Jetty。报错现场vLLM 回 400说 body 字段缺失控制台里第一条报错长这样400 - {object:error,message:[{type: missing, loc: (body,), msg: Field required, input: None}],type:BadRequestError,param:null,code:400}人话翻译vLLM 没收到任何一个字节的请求体input 是 None它把这次请求当成“空请求”按缺字段拒掉了。和模型参数无关——body 根本没送到。我们当时跑的就是这种 DeepSeek 多轮对话第一轮请求就 400第二轮根本没发出去。排查回放从 URL 密钥查到分块传输编码先怀疑的是配置。baseUrl、apiKey、模型名逐项核对都对得上。顺手用 curl 直连同一个 vLLM 端点完整响应回来了。配置排除。再改调用方式切非流式、调 temperature 这类参数400 依旧。请求参数也排除。转折点是 vLLM 那侧的日志input: None。服务端确实没收到 body。嫌疑挪到传输层我拉出 Wireshark 看了 Spring AI 发出的原始请求。绕了一圈发现请求头里是 Transfer-Encoding: chunked而不是 Content-Length。body 被拆成块发出去了。坑就在这vLLM 的解析器只认事先声明长度的请求chunked 这种它直接当空 body 处理报错发生在模型被调用之前。原理拆解Content-Length 与分块传输编码的传输层差异说白了两条路径差一行请求头。curl 的 body 是内存里现成的字节长度提前知道头里写 Content-Length: 312body 整包送达。Spring AI 的客户端边序列化边发长度不确定时就切到分块传输把 body 拆成一块块发末尾加结束符。类比一下快递整包直发封条上写了总重分块传输是一车车拉最后一车写“运完”。vLLM 只认封条见不到封条就当空包裹拒收。再看报错格式是 pydantic 的校验输出vLLM 的 API 层拿到空 body校验器按必填字段缺失处理。所以这个 400 不是“参数错”是“信封格式不同”——东西在对方没收到。动手修复RestClient 和 WebClient 换 Jetty 客户端第一步加 Jetty 客户端及其响应式适配器。后者是给 WebClient 复用 Jetty 连接池的dependency groupIdorg.eclipse.jetty/groupId artifactIdjetty-client/artifactId /dependency dependency groupIdorg.eclipse.jetty/groupId artifactIdjetty-reactive-httpclient/artifactId /dependency第二步把 RestClient 的请求工厂换成 JettyClientHttpRequestFactory。非流式 chat() 调用走的是同步 RestClient换完它会回到带 Content-Length 的发送方式。第三步把 WebClient 的连接器换成 JettyClientHttpConnector。流式调用走这条路两处都得换只换一处会在另一条链路再次 400。完整配置如下baseUrl 和 apiKey 按你的 vLLM 地址填OpenAiApi openAiApi OpenAiApi.builder() .baseUrl(http://localhost:8000/v1) .apiKey(EMPTY) .restClientBuilder(RestClient.builder() .requestFactory(new JettyClientHttpRequestFactory())) .webClientBuilder(WebClient.builder() .clientConnector(new JettyClientHttpConnector())) .build();避坑清单自部署 OpenAI 兼容服务的 400 排查检查项☐ 报错带 Field required 且 input: None先认定 body 没送达别去动模型参数 ☐ 同端点 curl 直连一次直连通、Spring AI 不通嫌疑收窄到客户端传输层 ☐ 抓包看请求头有没有 Transfer-Encoding: chunked这是确认根因的关键证据 ☐ 对接自部署服务vLLM、LM Studio 之类先试换 HTTP 客户端再回头调参数 ☐ 关注 vLLM 上游对分块传输的支持修复修复落地后 Jetty 这套依赖可以撤掉回归默认客户端【免费下载链接】spring-aiAn Application Framework for AI Engineering项目地址: https://gitcode.com/GitHub_Trending/spr/spring-ai创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
延伸阅读

更多相关文章

2026/9/18 23:18:08

oh-my-hermes:统一 Hermes 配置管理,让 React Native 性能优化更简单

1. 项目缘起:为什么我会折腾一套 Hermes 配置管理方案先交代一下背景。我一直在做 React Native 相关的性能优化工作,接触 Hermes 引擎其实比大多数人要早。Hermes 是 Facebook 专门为 React Native 打造的那套 JavaScript 引擎,它在 Android…

2026/9/19 0:08:11

Docker Desktop 设置转圈?WSL 后端与配置清理排查指南

点开 Docker Desktop 的齿轮图标,转圈转到你以为电脑死机——这事我遇到过不止一次。第一次碰上的时候我还在赶一个交付,容器跑得好好的,就是想改个镜像源,结果 Settings 页面那个加载动画转了整整八分钟没停。后来查日志、翻 iss…

2026/9/19 0:08:10

Docker Compose编排PostgreSQL、Chat2DB与监控栈

1. 单机场景下,为什么我依然离不开 docker-compose刚接触容器那会儿,我也觉得docker run敲一长串参数挺酷,直到某天要在本地拉起一套 PostgreSQL 加 Chat2DB 的数据开发环境,命令写完自己都记不住,第二天重启机器还得翻…

2026/9/19 0:08:10

UEditor在信创环境下导入Word文档的适配方案与踩坑记录

“百度UE”这个叫法我一听就知道,说的是百度开源的 UEditor——也就是那个在很多老后台管理系统里用了十多年的富文本编辑器。最近接了个国产化适配的活儿,客户给的验收清单里白纸黑字写着“支持在信创环境下导入 Word 文档”,第一反应就是拿…

2026/9/19 0:03:10

SYB创业计划书财务逻辑拆解:从销售收入预测到现金流量计划

简介:SYB创业计划书完整版.doc 是一份面向创业者、备赛学生及有开店打算人群的实用模板,以一家社区日用超市为案例,围绕企业概况、创业者个人情况、市场评估、市场营销计划、企业组织结构、固定资产、流动资金、销售收入预测、销售和成本计划…

2026/9/18 14:13:01

拯救者Y7000黑屏故障排查与维修实战指南

1. 项目概述:一台黑屏的拯救者Y7000,到底卡在哪一步? 联想拯救者Y7000系列笔记本,从2018年第一代搭载i5-8300H开始,到后来的i7-9750H、i7-10750H、i5-11400H,再到2023年款的R7-7840HS,它始终是学…

2026/9/19 0:03:10

验证 OpenSpec 兼容性,Cursor 的 Token 从 TaoToken 出

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/9/19 0:03:10

书桌角落的 Mac mini,OpenClaw 通过 TaoToken 跑任务。

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/9/19 0:03:10

oh-my-hermes:打造跨工具的命令编排与插件化工作流

1. 项目概述与设计初衷1.1 它到底是什么先说结论:oh-my-hermes 是一个面向开发者日常终端操作的效率工具套件,核心定位是“把分散在各类命令行工具里的高频操作,统一收拢成一套插件化、可编排的工作流”。项目灵感来源很明显——oh-my-zsh 重…

2026/9/18 14:13:03

USB Type-C PCB布局分区设计:电源、高速信号与PD协议全攻略

做硬件这行,Type-C接口算是典型的“看着简单,做起来全坑”的东西。光引脚就24个,高低速信号、电源、控制线全部塞在一个小小的连接器里,如果PCB布局不做规划,打样回来基本就是“插上没反应”、“高速掉线”、“静电一打…

2026/9/18 14:13:02

系统编程学习原型如何补齐稳定性边界

系统编程学习原型如何补齐稳定性边界预算有限时&#xff0c;我先优化明显多余的复制&#xff0c;而不是猜测性地换容器。用借用传递只读数据通常就能减少分配&#xff1a; fn parse(line: &str) -> Result<Item, Error> { /* ... */ }用基准确认热点确实在分配&am…

2026/9/18 14:13:02

雨花区哪家财务公司代理记账比较好?

在雨花区&#xff0c;企业处理财税事务常常面临诸多挑战&#xff0c;选择一家靠谱的财务公司至关重要。湖南巨勤财务管理咨询有限公司就是本地正规实体财税服务机构&#xff0c;深耕本地工商财税行业多年&#xff0c;熟悉当地工商局、税务局最新政策与申报流程。主营公司注册、…

还想了解更多?直接咨询顾问

免费诊断 + 免费方案 + 透明报价。

全国咨询热线400-8866-253
免费获取方案
咨询二维码