一、SSE 的基本概念与运行机制SSEServer-Sent Events服务器发送事件是一种基于 HTTP 的服务器向客户端持续推送事件的通信机制。它使用text/event-stream作为响应的媒体类型允许服务端在一个持续打开的 HTTP 响应中依次发送多个事件。浏览器提供了EventSource接口负责接收和解析事件流。传统 HTTP 接口通常在完成业务处理后返回完整响应。SSE 则允许服务端在处理过程中逐步发送结果使客户端能够及时展示已经产生的信息。因此SSE 广泛应用于大模型流式回答、任务进度通知和实时状态更新。SSE 的通信方向主要是服务器向客户端单向推送。客户端可以通过普通 HTTP 请求向服务器提交数据但一条 SSE 响应连接本身不提供 WebSocket 式的双向消息通信能力。1.1 SSE 的事件格式根据 WHATWG HTML Living StandardSSE 使用 UTF-8 编码以文本行描述事件。常用字段包括字段作用data事件的数据内容event事件类型id事件标识用于支持断线恢复retry建议的自动重连等待时间一条完整事件可以采用以下格式event: message id: 101 data: {content:正在生成回答}事件中的空行表示当前事件结束。客户端读取到完整事件后才会按照 SSE 规则分发消息。同一个事件可以包含多行data解析器会将其合并并在数据行之间插入换行符。浏览器EventSource支持自动重连必要时可通过Last-Event-ID告知服务器此前接收的事件位置。不过真正恢复遗漏的数据仍然需要服务端提供事件重放能力。二、数据块边界与语义边界流式处理最重要的工程概念之一是数据块边界不等于语义内容的边界。理解这一点需要区分三个层次。2.1 网络数据块边界HTTP 响应在传输过程中会被拆分为多个字节片段。网络分包、HTTP 传输机制、代理缓冲和客户端读取方式都可能影响应用每次收到的数据大小。一次客户端读取可能只得到部分事件内容也可能同时得到多个完整事件。底层读取边界没有义务与文本行、JSON 对象或者 UTF-8 字符边界保持一致。2.2 SSE 事件边界SSE 协议通过文本行和空行定义事件边界。客户端需要持续读取数据识别完整事件后再解析其中的data、event等字段。如果使用浏览器原生EventSource这些事件解析工作主要由浏览器完成。如果使用fetch手动读取响应流开发者需要自行处理 UTF-8 解码、事件边界和不完整数据的缓存。2.3 语义内容边界即使已经获得一条完整 SSE 事件也不能保证其中的内容构成完整句子、完整 JSON 对象或完整业务标签。大模型生成的内容可能按 Token 或文本增量返回一个词语、特殊标记或结构化字段都可能跨越多次输出。例如完整标记internal可能被拆分为片段1int 片段2ern 片段3al如果应用对每个片段独立执行字符串替换就无法正确识别完整标记。更严重的情况是程序可能在尚未识别完整标记之前将本应过滤的内容提前输出。因此需要将网络传输、SSE 事件解析和应用语义解析分别处理。三、跨数据块解析与状态管理处理跨块内容的关键是增量解析Incremental Parsing。它通过保留尚未处理完毕的数据以及当前解析状态使程序能够在后续片段到达时继续完成解析。首先需要建立缓冲区Buffer保存尚未构成完整事件或语义单元的内容。新数据到达后程序将其与已有缓冲内容合并提取完整部分并继续保留剩余内容。对于包含特殊标签或结构化片段的输出还可以使用状态机State Machine。状态机将解析过程表示为有限个状态例如普通文本、标签识别中、过滤区域内和解析结束。每次接收到新字符时根据当前状态决定是否输出、缓存或者切换状态。这种机制可以正确处理标记跨块、内容不完整和结束标记延迟出现等情况。实际实现还需要设置缓冲区大小限制、异常截断处理以及流结束时的清理规则防止异常响应导致内存持续增长或过滤规则失效。四、Spring Boot 中的 SSE 实现Spring MVC 提供SseEmitter用于在 Controller 中建立 SSE 响应并由异步任务持续发送事件。Spring WebFlux 也支持使用Flux和ServerSentEvent构建响应式事件流。一个简化的 Spring WebFlux 示例GetMapping( value /stream, produces MediaType.TEXT_EVENT_STREAM_VALUE ) public FluxServerSentEventString stream() { return Flux.just(第一段, 第二段) .delayElements(Duration.ofMillis(200)) .map(text - ServerSentEvent .Stringbuilder() .event(delta) .data(text) .build()); }这里Flux表示可以连续产生多个元素的响应式数据序列delayElements用于演示分次发送ServerSentEvent负责组织符合 SSE 格式的事件。实际接入模型时可以将模型生成的流式结果映射为对应事件无需使用固定文本模拟。使用 SSE 还需要关注连接超时、客户端断开、异常结束和服务端资源释放。对于经过 Nginx 等反向代理的应用代理缓冲可能导致多个事件积累后才发送使原本逐步输出的响应失去实时性。必要时应针对 SSE 接口配置适当的缓冲策略并进行真实请求验证。五、常见故障与面试理解SSE 常见问题包括事件显示延迟、跨块解析错误、客户端断开后资源未释放以及异常中断后重复接收内容。排查时应分别检查模型输出、服务端事件封装、HTTP 传输、代理配置和客户端解析确认延迟或错误实际发生的位置。面试时可以这样解释SSE 是基于 HTTP 的单向事件推送机制适合大模型流式输出。它使用text/event-stream和空行组织事件。实际开发中需要区分网络读取块、SSE 事件及语义内容三个层次因为数据可能在任意位置被拆分。针对跨块标签和结构化内容可以通过缓冲区与状态机进行增量解析同时处理连接超时、代理缓冲和异常恢复。参考资料WHATWG HTML Living Standard《Server-Sent Events》MDN《Using Server-Sent Events》Spring Framework《Asynchronous Requests》。
一、SSE 的基本概念与运行机制SSEServer-Sent Events服务器发送事件是一种基于 HTTP 的服务器向客户端持续推送事件的通信机制。它使用text/event-stream作为响应的媒体类型允许服务端在一个持续打开的 HTTP 响应中依次发送多个事件。浏览器提供了EventSource接口负责接收和解析事件流。传统 HTTP 接口通常在完成业务处理后返回完整响应。SSE 则允许服务端在处理过程中逐步发送结果使客户端能够及时展示已经产生的信息。因此SSE 广泛应用于大模型流式回答、任务进度通知和实时状态更新。SSE 的通信方向主要是服务器向客户端单向推送。客户端可以通过普通 HTTP 请求向服务器提交数据但一条 SSE 响应连接本身不提供 WebSocket 式的双向消息通信能力。1.1 SSE 的事件格式根据 WHATWG HTML Living StandardSSE 使用 UTF-8 编码以文本行描述事件。常用字段包括字段作用data事件的数据内容event事件类型id事件标识用于支持断线恢复retry建议的自动重连等待时间一条完整事件可以采用以下格式event: message id: 101 data: {content:正在生成回答}事件中的空行表示当前事件结束。客户端读取到完整事件后才会按照 SSE 规则分发消息。同一个事件可以包含多行data解析器会将其合并并在数据行之间插入换行符。浏览器EventSource支持自动重连必要时可通过Last-Event-ID告知服务器此前接收的事件位置。不过真正恢复遗漏的数据仍然需要服务端提供事件重放能力。二、数据块边界与语义边界流式处理最重要的工程概念之一是数据块边界不等于语义内容的边界。理解这一点需要区分三个层次。2.1 网络数据块边界HTTP 响应在传输过程中会被拆分为多个字节片段。网络分包、HTTP 传输机制、代理缓冲和客户端读取方式都可能影响应用每次收到的数据大小。一次客户端读取可能只得到部分事件内容也可能同时得到多个完整事件。底层读取边界没有义务与文本行、JSON 对象或者 UTF-8 字符边界保持一致。2.2 SSE 事件边界SSE 协议通过文本行和空行定义事件边界。客户端需要持续读取数据识别完整事件后再解析其中的data、event等字段。如果使用浏览器原生EventSource这些事件解析工作主要由浏览器完成。如果使用fetch手动读取响应流开发者需要自行处理 UTF-8 解码、事件边界和不完整数据的缓存。2.3 语义内容边界即使已经获得一条完整 SSE 事件也不能保证其中的内容构成完整句子、完整 JSON 对象或完整业务标签。大模型生成的内容可能按 Token 或文本增量返回一个词语、特殊标记或结构化字段都可能跨越多次输出。例如完整标记internal可能被拆分为片段1int 片段2ern 片段3al如果应用对每个片段独立执行字符串替换就无法正确识别完整标记。更严重的情况是程序可能在尚未识别完整标记之前将本应过滤的内容提前输出。因此需要将网络传输、SSE 事件解析和应用语义解析分别处理。三、跨数据块解析与状态管理处理跨块内容的关键是增量解析Incremental Parsing。它通过保留尚未处理完毕的数据以及当前解析状态使程序能够在后续片段到达时继续完成解析。首先需要建立缓冲区Buffer保存尚未构成完整事件或语义单元的内容。新数据到达后程序将其与已有缓冲内容合并提取完整部分并继续保留剩余内容。对于包含特殊标签或结构化片段的输出还可以使用状态机State Machine。状态机将解析过程表示为有限个状态例如普通文本、标签识别中、过滤区域内和解析结束。每次接收到新字符时根据当前状态决定是否输出、缓存或者切换状态。这种机制可以正确处理标记跨块、内容不完整和结束标记延迟出现等情况。实际实现还需要设置缓冲区大小限制、异常截断处理以及流结束时的清理规则防止异常响应导致内存持续增长或过滤规则失效。四、Spring Boot 中的 SSE 实现Spring MVC 提供SseEmitter用于在 Controller 中建立 SSE 响应并由异步任务持续发送事件。Spring WebFlux 也支持使用Flux和ServerSentEvent构建响应式事件流。一个简化的 Spring WebFlux 示例GetMapping( value /stream, produces MediaType.TEXT_EVENT_STREAM_VALUE ) public FluxServerSentEventString stream() { return Flux.just(第一段, 第二段) .delayElements(Duration.ofMillis(200)) .map(text - ServerSentEvent .Stringbuilder() .event(delta) .data(text) .build()); }这里Flux表示可以连续产生多个元素的响应式数据序列delayElements用于演示分次发送ServerSentEvent负责组织符合 SSE 格式的事件。实际接入模型时可以将模型生成的流式结果映射为对应事件无需使用固定文本模拟。使用 SSE 还需要关注连接超时、客户端断开、异常结束和服务端资源释放。对于经过 Nginx 等反向代理的应用代理缓冲可能导致多个事件积累后才发送使原本逐步输出的响应失去实时性。必要时应针对 SSE 接口配置适当的缓冲策略并进行真实请求验证。五、常见故障与面试理解SSE 常见问题包括事件显示延迟、跨块解析错误、客户端断开后资源未释放以及异常中断后重复接收内容。排查时应分别检查模型输出、服务端事件封装、HTTP 传输、代理配置和客户端解析确认延迟或错误实际发生的位置。面试时可以这样解释SSE 是基于 HTTP 的单向事件推送机制适合大模型流式输出。它使用text/event-stream和空行组织事件。实际开发中需要区分网络读取块、SSE 事件及语义内容三个层次因为数据可能在任意位置被拆分。针对跨块标签和结构化内容可以通过缓冲区与状态机进行增量解析同时处理连接超时、代理缓冲和异常恢复。参考资料WHATWG HTML Living Standard《Server-Sent Events》MDN《Using Server-Sent Events》Spring Framework《Asynchronous Requests》。
