logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

【项目设计】基于谷歌开源的tcmalloc衍生的简易高并发内存池

预先向系统申请过量资源,自己管理以备不时之需。显著减少与系统频繁建联的资源消耗,大大提高程序的运行效率。

文章图片
#开源
Chatsdk模型接口的设计

采用的思想,采用策略模式,定义一个基类LLMProvider,后续会借助API的方式接入DeepSeek、ChatGPT、Gemini等大模型,每个大模型将来都需要:a. 初始化b. 检测模型是否有效c. 发送消息给模型(1.全量方式 2.增量方式)d. 获取模型名称e. 获取模型描述(1.标记模型是否初始化成功字段 2.模型的apikey 3.模型的描述信息 4.模型的名称)f. 保存模型的有效

#网络#c++
到底了