logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

linux 通过docker 部署ai

由于我的服务器配置比较低(配置是4g运行内存/cpu 两颗) 所以采用的是 qwen:0.5b(百度的通义千问) 这个模型大概使用cpu 是2g 作用本地虚拟机是可以正常跑的。基本上 只要大于1b的就不能只需要cpu了需要用到gpu的性能 (开始上显卡)下载前 你可以查看deepseek 官网 来对应版本一定要时刻关注cpu。查看相应的版本 一般来说0.7b 是4g 内存运行的极限(未测试)例如我

#linux#docker#运维
到底了