logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

SSE流式使用

因为大模型相当于一个大型的预测机器。所以吐字是一个一个吐的。这种像水流一样的方式,专业来说就是服务器单向向前端持续推送消息的机制,就叫做SSE。我会用py + fastapi+ react 去简单构建一个小demo。前端代码我这边写一些关键的。

#状态模式
SSE流式使用

因为大模型相当于一个大型的预测机器。所以吐字是一个一个吐的。这种像水流一样的方式,专业来说就是服务器单向向前端持续推送消息的机制,就叫做SSE。我会用py + fastapi+ react 去简单构建一个小demo。前端代码我这边写一些关键的。

#状态模式
到底了