logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

人工智能组第一次培训——deepseek本地部署和知识库的建立

本地部署的关键是推理计算,很多人没搞明白,推理计算和训练计算,是两个完全不同的东西,推理不是必须显卡的,推理实际上负荷也不高,只要你的cpu够强,系统内存够大,完全不需要显卡的参与,671b的完整版也可以在无显卡的机器上跑起来。选择Models,里面有很多个模型,主要介绍deepseek-r1和deepseek-v3,v3是更适用于普通的日常对话,r1是更接近于chatgpt的O1它有更长的推理链

文章图片
#人工智能
人工智能组第一次培训——deepseek本地部署和知识库的建立

本地部署的关键是推理计算,很多人没搞明白,推理计算和训练计算,是两个完全不同的东西,推理不是必须显卡的,推理实际上负荷也不高,只要你的cpu够强,系统内存够大,完全不需要显卡的参与,671b的完整版也可以在无显卡的机器上跑起来。选择Models,里面有很多个模型,主要介绍deepseek-r1和deepseek-v3,v3是更适用于普通的日常对话,r1是更接近于chatgpt的O1它有更长的推理链

文章图片
#人工智能
人工智能组第一次培训——deepseek本地部署和知识库的建立

本地部署的关键是推理计算,很多人没搞明白,推理计算和训练计算,是两个完全不同的东西,推理不是必须显卡的,推理实际上负荷也不高,只要你的cpu够强,系统内存够大,完全不需要显卡的参与,671b的完整版也可以在无显卡的机器上跑起来。选择Models,里面有很多个模型,主要介绍deepseek-r1和deepseek-v3,v3是更适用于普通的日常对话,r1是更接近于chatgpt的O1它有更长的推理链

文章图片
#人工智能
人工智能组第一次培训——deepseek本地部署和知识库的建立

本地部署的关键是推理计算,很多人没搞明白,推理计算和训练计算,是两个完全不同的东西,推理不是必须显卡的,推理实际上负荷也不高,只要你的cpu够强,系统内存够大,完全不需要显卡的参与,671b的完整版也可以在无显卡的机器上跑起来。选择Models,里面有很多个模型,主要介绍deepseek-r1和deepseek-v3,v3是更适用于普通的日常对话,r1是更接近于chatgpt的O1它有更长的推理链

文章图片
#人工智能
人工智能组第一次培训——deepseek本地部署和知识库的建立

本地部署的关键是推理计算,很多人没搞明白,推理计算和训练计算,是两个完全不同的东西,推理不是必须显卡的,推理实际上负荷也不高,只要你的cpu够强,系统内存够大,完全不需要显卡的参与,671b的完整版也可以在无显卡的机器上跑起来。选择Models,里面有很多个模型,主要介绍deepseek-r1和deepseek-v3,v3是更适用于普通的日常对话,r1是更接近于chatgpt的O1它有更长的推理链

文章图片
#人工智能
到底了