
简介
该用户还未填写简介
擅长的技术栈
未填写擅长的技术栈
可提供的服务
暂无可提供的服务
在 Golang 中复用 HTTP 连接
最近在实现一个转发大模型调用请求的中转功能,涉及到要构造client发送请求的内容,一开始我每次都是新建一个client来发送请求,这样的代码实现存在一些问题——每次都要构造新的client,并且要重新建立连接。后面了解到在Go中使用 HTTP 客户端(在 Go 中,HTTP 客户端默认会复用 TCP 连接,只要使用同一个。会根据空闲连接数和超时管理复用,可根据需求调整。,做到提高性能并减少 TC
【软件架构设计模式】MVC、MVP、MVVM辨析
一种将数据、界面和控制逻辑分离的架构模式。从 MVC 演化而来的架构,强调 Presenter 统一控制逻辑。适合现代前端框架的一种架构,强调双向数据绑定。

流式与非流式有什么区别
最近在实现一个转发大模型调用请求的中转功能,因为现在的大模型都支持流式与非流式调用,所以我在实现的时候自然而然的想到了要不要区分两种调用方式,使用不同的代码逻辑。一开始写的时候分开了两个调用方式来写,后来发现这两种方式对于服务端来说实际没有区别,重点在于客户端的使用。在服务端的实现中,实际上我们可以不用在意是流式还是非流式,我们可以统一采用流的方法返回请求体,是否真是流式形式实际上是取决于。可以看
到底了







