
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
启动百川大模型错误解决:ModuleNotFoundError: No module named 'bitsandbytes'

Linux nginx配置ssl证书
通过密钥,ssh登录到服务器。输入并确认新密码即可。

MySQL切换到达梦数据库,问题解决记录

【代码】java小知识:图片添加中文水印,部署到linux环境乱码解决。

* 项目中有种场景,如果返回给前端的数值字段超过16位会失真,后面几位全都会转成0,一般这种情况最简单的解决方案就是把数值类型转为字符串类型。@JsonSerialize

把节点配置里的Jdk路径改为11以上即可。当然如果你项目运行必须用Java1.8,你可以先把jdk路径改为11以上,节点启动成功后,再改回1.8。由于Jenkins的运行环境是Java11,但是节点的运行环境是Java1.8导致。

因为baichuan2大模型的max_length最大是4096,如果你的max_new_tokens设置了4000,那么无论你传了多少历史对话记录,他都不能超过96个Token长度,这也就导致没有了上下文效果。跟踪过源码以后发现,用户输入的Token最大长度(max_input_tokens ),等于max_length - max_new_tokens,也就是说max_new_tokens越小
启动百川大模型错误解决:ModuleNotFoundError: No module named 'bitsandbytes'

idea 拉取GitHub代码报错 repository 'https://github.com/song.git/' not found,问题解决生成github令牌








