
简介
该用户还未填写简介
擅长的技术栈
未填写擅长的技术栈
可提供的服务
暂无可提供的服务
【项目设计】基于谷歌开源的tcmalloc衍生的简易高并发内存池
预先向系统申请过量资源,自己管理以备不时之需。显著减少与系统频繁建联的资源消耗,大大提高程序的运行效率。

Chatsdk模型接口的设计
采用的思想,采用策略模式,定义一个基类LLMProvider,后续会借助API的方式接入DeepSeek、ChatGPT、Gemini等大模型,每个大模型将来都需要:a. 初始化b. 检测模型是否有效c. 发送消息给模型(1.全量方式 2.增量方式)d. 获取模型名称e. 获取模型描述(1.标记模型是否初始化成功字段 2.模型的apikey 3.模型的描述信息 4.模型的名称)f. 保存模型的有效
到底了







