Spring AI 调 vLLM 报 400 错误分块传输编码是坑换 Jetty 客户端就通了【免费下载链接】spring-aiAn Application Framework for AI Engineering项目地址: https://gitcode.com/GitHub_Trending/spr/spring-ai根因是 vLLM 不认分块传输编码Chunked Transfer Encoding而 Spring AI 默认 HTTP 客户端正按分块方式发请求体Request Body调用直接吃 400 错误。最简修复把 RestClient、WebClient 底下的客户端换成 Jetty。报错现场vLLM 回 400说 body 字段缺失控制台里第一条报错长这样400 - {object:error,message:[{type: missing, loc: (body,), msg: Field required, input: None}],type:BadRequestError,param:null,code:400}人话翻译vLLM 没收到任何一个字节的请求体input 是 None它把这次请求当成“空请求”按缺字段拒掉了。和模型参数无关——body 根本没送到。我们当时跑的就是这种 DeepSeek 多轮对话第一轮请求就 400第二轮根本没发出去。排查回放从 URL 密钥查到分块传输编码先怀疑的是配置。baseUrl、apiKey、模型名逐项核对都对得上。顺手用 curl 直连同一个 vLLM 端点完整响应回来了。配置排除。再改调用方式切非流式、调 temperature 这类参数400 依旧。请求参数也排除。转折点是 vLLM 那侧的日志input: None。服务端确实没收到 body。嫌疑挪到传输层我拉出 Wireshark 看了 Spring AI 发出的原始请求。绕了一圈发现请求头里是 Transfer-Encoding: chunked而不是 Content-Length。body 被拆成块发出去了。坑就在这vLLM 的解析器只认事先声明长度的请求chunked 这种它直接当空 body 处理报错发生在模型被调用之前。原理拆解Content-Length 与分块传输编码的传输层差异说白了两条路径差一行请求头。curl 的 body 是内存里现成的字节长度提前知道头里写 Content-Length: 312body 整包送达。Spring AI 的客户端边序列化边发长度不确定时就切到分块传输把 body 拆成一块块发末尾加结束符。类比一下快递整包直发封条上写了总重分块传输是一车车拉最后一车写“运完”。vLLM 只认封条见不到封条就当空包裹拒收。再看报错格式是 pydantic 的校验输出vLLM 的 API 层拿到空 body校验器按必填字段缺失处理。所以这个 400 不是“参数错”是“信封格式不同”——东西在对方没收到。动手修复RestClient 和 WebClient 换 Jetty 客户端第一步加 Jetty 客户端及其响应式适配器。后者是给 WebClient 复用 Jetty 连接池的dependency groupIdorg.eclipse.jetty/groupId artifactIdjetty-client/artifactId /dependency dependency groupIdorg.eclipse.jetty/groupId artifactIdjetty-reactive-httpclient/artifactId /dependency第二步把 RestClient 的请求工厂换成 JettyClientHttpRequestFactory。非流式 chat() 调用走的是同步 RestClient换完它会回到带 Content-Length 的发送方式。第三步把 WebClient 的连接器换成 JettyClientHttpConnector。流式调用走这条路两处都得换只换一处会在另一条链路再次 400。完整配置如下baseUrl 和 apiKey 按你的 vLLM 地址填OpenAiApi openAiApi OpenAiApi.builder() .baseUrl(http://localhost:8000/v1) .apiKey(EMPTY) .restClientBuilder(RestClient.builder() .requestFactory(new JettyClientHttpRequestFactory())) .webClientBuilder(WebClient.builder() .clientConnector(new JettyClientHttpConnector())) .build();避坑清单自部署 OpenAI 兼容服务的 400 排查检查项☐ 报错带 Field required 且 input: None先认定 body 没送达别去动模型参数 ☐ 同端点 curl 直连一次直连通、Spring AI 不通嫌疑收窄到客户端传输层 ☐ 抓包看请求头有没有 Transfer-Encoding: chunked这是确认根因的关键证据 ☐ 对接自部署服务vLLM、LM Studio 之类先试换 HTTP 客户端再回头调参数 ☐ 关注 vLLM 上游对分块传输的支持修复修复落地后 Jetty 这套依赖可以撤掉回归默认客户端【免费下载链接】spring-aiAn Application Framework for AI Engineering项目地址: https://gitcode.com/GitHub_Trending/spr/spring-ai创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
Spring AI 调 vLLM 报 400 错误分块传输编码是坑换 Jetty 客户端就通了【免费下载链接】spring-aiAn Application Framework for AI Engineering项目地址: https://gitcode.com/GitHub_Trending/spr/spring-ai根因是 vLLM 不认分块传输编码Chunked Transfer Encoding而 Spring AI 默认 HTTP 客户端正按分块方式发请求体Request Body调用直接吃 400 错误。最简修复把 RestClient、WebClient 底下的客户端换成 Jetty。报错现场vLLM 回 400说 body 字段缺失控制台里第一条报错长这样400 - {object:error,message:[{type: missing, loc: (body,), msg: Field required, input: None}],type:BadRequestError,param:null,code:400}人话翻译vLLM 没收到任何一个字节的请求体input 是 None它把这次请求当成“空请求”按缺字段拒掉了。和模型参数无关——body 根本没送到。我们当时跑的就是这种 DeepSeek 多轮对话第一轮请求就 400第二轮根本没发出去。排查回放从 URL 密钥查到分块传输编码先怀疑的是配置。baseUrl、apiKey、模型名逐项核对都对得上。顺手用 curl 直连同一个 vLLM 端点完整响应回来了。配置排除。再改调用方式切非流式、调 temperature 这类参数400 依旧。请求参数也排除。转折点是 vLLM 那侧的日志input: None。服务端确实没收到 body。嫌疑挪到传输层我拉出 Wireshark 看了 Spring AI 发出的原始请求。绕了一圈发现请求头里是 Transfer-Encoding: chunked而不是 Content-Length。body 被拆成块发出去了。坑就在这vLLM 的解析器只认事先声明长度的请求chunked 这种它直接当空 body 处理报错发生在模型被调用之前。原理拆解Content-Length 与分块传输编码的传输层差异说白了两条路径差一行请求头。curl 的 body 是内存里现成的字节长度提前知道头里写 Content-Length: 312body 整包送达。Spring AI 的客户端边序列化边发长度不确定时就切到分块传输把 body 拆成一块块发末尾加结束符。类比一下快递整包直发封条上写了总重分块传输是一车车拉最后一车写“运完”。vLLM 只认封条见不到封条就当空包裹拒收。再看报错格式是 pydantic 的校验输出vLLM 的 API 层拿到空 body校验器按必填字段缺失处理。所以这个 400 不是“参数错”是“信封格式不同”——东西在对方没收到。动手修复RestClient 和 WebClient 换 Jetty 客户端第一步加 Jetty 客户端及其响应式适配器。后者是给 WebClient 复用 Jetty 连接池的dependency groupIdorg.eclipse.jetty/groupId artifactIdjetty-client/artifactId /dependency dependency groupIdorg.eclipse.jetty/groupId artifactIdjetty-reactive-httpclient/artifactId /dependency第二步把 RestClient 的请求工厂换成 JettyClientHttpRequestFactory。非流式 chat() 调用走的是同步 RestClient换完它会回到带 Content-Length 的发送方式。第三步把 WebClient 的连接器换成 JettyClientHttpConnector。流式调用走这条路两处都得换只换一处会在另一条链路再次 400。完整配置如下baseUrl 和 apiKey 按你的 vLLM 地址填OpenAiApi openAiApi OpenAiApi.builder() .baseUrl(http://localhost:8000/v1) .apiKey(EMPTY) .restClientBuilder(RestClient.builder() .requestFactory(new JettyClientHttpRequestFactory())) .webClientBuilder(WebClient.builder() .clientConnector(new JettyClientHttpConnector())) .build();避坑清单自部署 OpenAI 兼容服务的 400 排查检查项☐ 报错带 Field required 且 input: None先认定 body 没送达别去动模型参数 ☐ 同端点 curl 直连一次直连通、Spring AI 不通嫌疑收窄到客户端传输层 ☐ 抓包看请求头有没有 Transfer-Encoding: chunked这是确认根因的关键证据 ☐ 对接自部署服务vLLM、LM Studio 之类先试换 HTTP 客户端再回头调参数 ☐ 关注 vLLM 上游对分块传输的支持修复修复落地后 Jetty 这套依赖可以撤掉回归默认客户端【免费下载链接】spring-aiAn Application Framework for AI Engineering项目地址: https://gitcode.com/GitHub_Trending/spr/spring-ai创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
