logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

docker搭建NFS服务器(超简单)

docker 安装 NFS服务端与客户端

文章图片
#docker#服务器#运维
vue使用富文本编辑器vue-quill-editor

vue使用富文本编辑器vue-quill-editor,带可配置字体,字号等

文章图片
#vue.js#javascript#ecmascript
java 使用POI-TL根据word模版,生成word文件,含图片,富文本。

java使用POI-TL生成docx文件,含图片以及富文本html等。

文章图片
#java#开发语言
关于deepseek,千问qwq32B等大模型没有开始<think>问题的解决方案!

【代码】关于deepseek,千问qwq32B等大模型没有开始<think>问题的解决方案!

文章图片
ollama部署deepseek之后,保持模型永远被加载在GPU之中!

我们在使用ollma部署大语言模型的时候,如果部署的模型尺寸较大,往往在第一次加载的时候需要花费大量的时间加载模型;等加载完成后,如果长时间不调用模型,我们会发现模型已经被释放掉了,又要重新加载,导致体验感极差。

#语言模型
gpustack docker 安装

【代码】gpustack docker 安装。

文章图片
#docker#容器#运维
关于deepseek,千问qwq32B等大模型没有开始<think>问题的解决方案!

【代码】关于deepseek,千问qwq32B等大模型没有开始<think>问题的解决方案!

文章图片
ollama部署deepseek之后,保持模型永远被加载在GPU之中!

我们在使用ollma部署大语言模型的时候,如果部署的模型尺寸较大,往往在第一次加载的时候需要花费大量的时间加载模型;等加载完成后,如果长时间不调用模型,我们会发现模型已经被释放掉了,又要重新加载,导致体验感极差。

#语言模型
关于deepseek,千问qwq32B等大模型没有开始<think>问题的解决方案!

【代码】关于deepseek,千问qwq32B等大模型没有开始<think>问题的解决方案!

文章图片
关于deepseek,千问qwq32B等大模型没有开始<think>问题的解决方案!

【代码】关于deepseek,千问qwq32B等大模型没有开始<think>问题的解决方案!

文章图片
    共 12 条
  • 1
  • 2
  • 请选择