写文章
- @seyrhgnv
简介
该用户还未填写简介
擅长的技术栈
未填写擅长的技术栈
可提供的服务
暂无可提供的服务
后端大模型流式输出被springcloud gateway“阻塞“的解决办法
本文记录了在使用 springcloud gateway 的场景下，后端流式输出异常的问题，具体表现为大模型返回并没有流式输出，而是一次性全部返回；并且经过测试，直接对业务服务进行请求能够成功进行流式输出。最终发现，是业务服务返回的错误导致 gateway 没有按照流式输出返回给前端，只需要修改接口的即可解决问题。修改接口之后，spring web 框架会按照 SSE 标准返回，此时需要前端使用这
后端大模型流式输出被springcloud gateway“阻塞“的解决办法
本文记录了在使用 springcloud gateway 的场景下，后端流式输出异常的问题，具体表现为大模型返回并没有流式输出，而是一次性全部返回；并且经过测试，直接对业务服务进行请求能够成功进行流式输出。最终发现，是业务服务返回的错误导致 gateway 没有按照流式输出返回给前端，只需要修改接口的即可解决问题。修改接口之后，spring web 框架会按照 SSE 标准返回，此时需要前端使用这
到底了