一、引言

在人工智能飞速发展的当下,大模型的应用愈发广泛。DeepSeek 作为一款备受关注的模型,通过本地部署结合 Cherry Studio,能为用户带来高效、安全且个性化的 AI 体验。这种本地化部署方式,不仅数据全程在本地处理,无需依赖云端服务器,保障了数据隐私,还支持搭建私有知识库,通过 “投喂” 本地数据大幅提升模型输出的精准性。同时,Cherry Studio 支持同时接入多个 AI 模型,实现了 All - in - One 的便捷管理。接下来,就让我们详细了解如何利用 Cherry Studio 进行 DeepSeek 的本地部署。

二、准备工作

(一)硬件要求

CPU:建议使用 Intel i7 或 AMD Ryzen 7 及以上处理器,以保证模型推理的基本性能。若要进行更复杂的任务或处理大量数据,性能更强的 CPU 会有更好的表现。

GPU:如果有 NVIDIA GPU,如 GTX 1660 及以上型号,配合 CUDA 加速,能显著提升模型的运行速度。对于 DeepSeek 模型,GPU 加速可以极大地减少推理时间,尤其是在处理长文本或高并发请求时。

内存:至少 16GB RAM,推荐 32GB 及以上。大模型在运行过程中会占用大量内存,充足的内存可以避免因内存不足导致的程序崩溃或运行缓慢。

硬盘:至少 50GB 可用空间,用于安装 Cherry Studio、Ollama 以及下载 DeepSeek 模型文件。若计划存储大量本地知识库数据,建议预留更多空间。

(二)软件准备

Cherry Studio:访问 [Cherry Studio 官方网站](https://cherry - ai.com/),根据自己的操作系统(Windows、macOS 或 Linux)下载对应的安装包。

Ollama:从Ollama 官网获取适合系统的安装包。Ollama 是一个用于在本地轻松运行大语言模型的工具,它简化了模型的部署流程,降低了本地部署的技术门槛。

模型文件:DeepSeek 模型文件可通过 Ollama 自动下载,无需手动寻找复杂的资源链接,Ollama 会管理模型的版本和更新,确保用户使用到稳定且最新的模型。

三、安装 Cherry Studio

(一)Windows 系统安装

找到下载完成的 Cherry Studio 安装包(.exe 文件),双击运行安装程序。

在安装向导界面,点击“下一步”。可以选择默认的安装路径,也可点击 “浏览” 选择其他磁盘位置进行安装。

选择是否创建桌面快捷方式,建议勾选,方便后续快速启动。然后点击“安装”,等待安装过程完成。

安装完成后,点击“完成” 即可在桌面找到 Cherry Studio 的快捷图标,双击图标启动软件。

(二)macOS 系统安装

打开下载的 Cherry Studio.dmg 文件,将 Cherry Studio 应用程序图标拖移到 “应用程序” 文件夹中。

首次打开 Cherry Studio 时,系统可能会提示 “无法打开,因为无法验证开发者”。此时,需前往 “系统偏好设置”>“安全性与隐私”,在 “通用” 选项卡中,点击 “仍要打开” 来允许运行该应用。

从“应用程序” 文件夹中找到 Cherry Studio 并打开,即可开始使用。

(三)Linux 系统安装(以 Ubuntu 为例)

解压下载的 Cherry Studio 压缩包,打开终端,进入解压后的文件夹目录。

为安装脚本添加执行权限,在终端中输入命令:chmod +x install.sh。

执行安装脚本,输入命令:./install.sh。安装过程中,根据提示输入管理员密码等信息。

安装完成后,在终端输入cherry - studio即可启动软件。若希望创建桌面快捷方式,可参考 Ubuntu 系统创建快捷方式的相关教程进行操作。

四、安装和配置 Ollama

(一)安装 Ollama

Windows/macOS:双击下载的 Ollama 安装包,按照安装向导的提示逐步完成安装。在安装过程中,可选择默认的安装选项,安装完成后,Ollama 会自动在系统中配置好相关环境变量。

Linux:打开终端,输入命令curl https://ollama.ai/install.sh | sh,该命令会从 Ollama 官方下载安装脚本并自动执行安装过程。安装完成后,关闭并重新打开终端,确保环境变量生效。

(二)验证安装

在终端中输入命令ollama --version,若安装成功,会显示 Ollama 的版本信息,如 “ollama version 0.8.0”。这表明 Ollama 已正确安装在系统中,可进行后续操作。

(三)配置镜像源(国内用户推荐)

由于网络原因,国内用户直接从 Ollama 官方源下载模型可能速度较慢。为了加速模型下载,可配置国内镜像源。

打开文本编辑器,编辑或创建配置文件~/.ollama/config.toml。若该文件不存在,直接创建即可。

在文件中添加内容:registry = “https://mirror.ollama.cn”。保存并关闭文件。这样,后续通过 Ollama 下载模型时,会从国内镜像源获取,大大提高下载速度。

五、部署 DeepSeek 模型

(一)下载 DeepSeek 基础模型

打开终端,输入命令ollama pull deepseek - r1:8b,该命令会从配置的镜像源(若已配置)或 Ollama 官方源下载 DeepSeek - R1 的 8B 版本模型。若你的硬件配置较低,可选择deepseek - r1:1.5b轻量级版本,适合在 CPU 上运行;若硬件性能较强,可选择deepseek - r1:7b版本,以获得更好的模型效果。例如,下载 7B 版本的命令为ollama pull deepseek - r1:7b。在下载过程中,终端会显示下载进度,等待下载完成,出现“success” 字样即表示模型下载成功。

(二)下载嵌入模型(用于知识库)

为了在 Cherry Studio 中创建知识库,需要下载嵌入模型。在终端中输入命令ollama pull bge - m3,该命令会下载名为 bge - m3 的嵌入模型,用于将文本转换为向量,以便在知识库中进行高效检索和匹配。同样,下载完成后终端会提示 “success”。

(三)验证模型部署

在终端中输入命令ollama list,此时会列出已下载的所有模型,应能看到刚刚下载的 DeepSeek - R1 模型和 bge - m3 嵌入模型。例如,显示结果可能如下:

NAME TYPE SIZE MODIFIED deepseek - r1:8b llama 2.64 GB 1 hour ago bge - m3 embedding 512.00 MB 30 minutes ago deepseek - r1:8b llama 2.64 GB 1 hour ago bge - m3 embedding 512.00 MB 30 minutes ago bge - m3 embedding 512.00 MB 30 minutes ago

这表明模型已成功部署在本地,可进行下一步与 Cherry Studio 的集成配置。

六、配置 Cherry Studio 连接 Ollama

(一)启动 Cherry Studio

首次启动 Cherry Studio 时,软件会引导你进行一些初始设置,如选择语言、主题等。按照个人喜好完成设置后,进入 Cherry Studio 主界面。

(二)添加 Ollama 服务

点击 Cherry Studio 主界面左下角的 “设置” 按钮,进入设置页面。

在设置页面中,点击“模型服务” 选项,然后在右侧选择 “Ollama”。

点击右上角的“启用 Ollama” 开关,使其变为蓝色开启状态。接着点击下方的 “管理” 按钮。

(三)选择 DeepSeek 模型

在弹出的 Ollama 模型管理窗口中,点击 “+” 按钮。此时会列出通过 Ollama 下载的所有模型,找到之前下载的 DeepSeek - R1 模型(如 deepseek - r1:8b 或你下载的其他版本),点击选中它,然后点击 “添加”。

添加成功后,在模型列表中会显示 DeepSeek - R1 模型。若希望将其设置为默认聊天模型,可在 “默认模型” 下拉菜单中选择对应的 DeepSeek 模型版本。

(四)设置模型参数(可选)

在“设置”>“模型服务”>“Ollama” 页面中,还可以点击 “参数设置” 按钮,对 DeepSeek 模型的一些参数进行调整,如温度(Temperature)、最大输出长度(Max Output Tokens)等。温度参数影响模型输出的随机性,值越高输出越随机,一般推荐值在 0.7 - 1.0 之间;最大输出长度决定了模型生成文本的最大长度,可根据实际需求进行设置,如设置为 512、1024 等。设置完成后,点击 “保存” 应用参数设置。

七、创建知识库(可选)

(一)新建知识库

点击 Cherry Studio 左侧菜单栏中的 “知识库” 图标,进入知识库管理页面。

点击页面中的“添加” 按钮,弹出新建知识库对话框。

在对话框中输入知识库的名称,如“我的工作知识库”“学习资料知识库” 等,方便识别和管理。然后在 “嵌入模型” 下拉菜单中选择之前下载的 bge - m3 嵌入模型,点击 “确定” 创建知识库。

(二)添加知识源

上传文件:在新建的知识库页面中,点击右上角的“添加文件” 按钮。在弹出的文件选择对话框中,选择要添加到知识库的文件,支持 PDF、Word(.docx)、TXT 等常见格式。例如,选择工作中的项目文档、学习资料中的论文等文件,选中后点击 “打开”,文件将开始上传到知识库。上传过程中,会显示上传进度。

添加文件夹:若要批量导入多个文件,可以点击“添加文件夹” 按钮。选择包含相关文件的文件夹,Cherry Studio 会自动将文件夹内的所有支持格式文件添加到知识库中。这对于整理大量文档非常方便,如整个项目文件夹或课程资料文件夹。

网页抓取(部分版本支持):部分 Cherry Studio 版本支持网页抓取功能。点击 “添加网页” 按钮,输入要抓取的网页 URL 地址,如技术博客文章、行业报告网页等。Cherry Studio 会尝试抓取网页内容并将其添加到知识库中,但请注意,某些网站可能不允许抓取,且抓取效果可能因网页结构复杂程度而异。

(三)等待索引完成

添加知识源后,Cherry Studio 会自动对文件内容进行处理,生成向量索引,以便在后续对话中快速检索相关信息。在知识库列表中,可以看到每个知识库的索引进度,显示为百分比形式。等待索引完成后,知识库即可在对话中使用,模型将基于知识库中的内容生成更符合特定需求的回答。

八、使用 DeepSeek 进行聊天

(一)打开聊天界面

点击 Cherry Studio 左侧菜单栏中的 “聊天” 按钮,进入聊天对话界面。这里是与 DeepSeek 模型进行交互的主要区域。

(二)选择模型和知识库

在聊天界面右上角,确保选择了之前配置的 DeepSeek 模型,如 deepseek - r1:8b。模型名称会显示在下拉菜单中,点击下拉箭头选择正确的模型版本。

若之前创建了知识库且希望模型在回答问题时参考知识库内容,勾选“使用知识库” 选项。勾选后,模型会结合知识库中的信息以及自身的知识储备来生成回答,使回答更具针对性和准确性。

(三)开始对话

在聊天输入框中输入问题或指令,例如“请解释一下量子计算的基本原理”“帮我写一份市场推广方案大纲” 等。然后点击 “发送” 按钮或按下回车键,DeepSeek 模型将开始处理输入内容,并在聊天窗口中生成回答。回答过程可能需要几秒钟到几十秒钟不等,具体取决于问题的复杂程度、模型性能以及硬件配置。在等待过程中,聊天窗口会显示加载动画。模型生成回答后,会详细展示内容,若参考了知识库,还可能会显示相关的知识来源文件或段落。

九、性能优化建议

(一)GPU 加速(NVIDIA 用户)

安装 CUDA Toolkit:访问 NVIDIA 官方网站,根据自己的 GPU 型号和操作系统版本,下载并安装 CUDA Toolkit。安装过程中,按照安装向导的提示进行操作,注意选择正确的安装选项,一般推荐使用默认安装路径。安装完成后,需要重启计算机使设置生效。

安装 cuDNN 库:cuDNN 是 NVIDIA 针对深度学习推出的加速库,可进一步提升 GPU 性能。从 NVIDIA 官方网站下载与 CUDA Toolkit 版本匹配的 cuDNN 库压缩包。解压压缩包后,将其中的文件复制到 CUDA Toolkit 的安装目录中对应的文件夹下,具体操作可参考 NVIDIA 官方文档的说明。

使用量化模型:对于内存有限但有 GPU 的用户,可使用带q4_k_m后缀的量化模型,如deepseek - r1:7b - q4_k_m。这种量化模型在保持一定精度的同时,大幅减少了内存占用,可在不升级硬件的情况下提升模型运行效率。在 Ollama 中下载量化模型的命令与普通模型类似,如ollama pull deepseek - r1:7b - q4_k_m。

(二)内存优化

选择合适的模型:对于内存较小的系统,优先选择轻量级模型,如deepseek - r1:1.5b。这类模型对内存的需求较低,虽然在模型表现上可能略逊于大参数模型,但在内存受限的情况下能保证基本的运行和使用。

关闭其他占用内存的应用:在运行 Cherry Studio 和 DeepSeek 模型时,关闭不必要的后台应用程序,如音乐播放器、视频编辑软件等。这些应用会占用大量内存,关闭它们可以释放更多内存供模型使用,从而提升模型的运行速度和稳定性。在 Windows 系统中,可以通过任务管理器关闭应用;在 macOS 系统中,可通过 “Command + Tab” 组合键切换到要关闭的应用,然后按下 “Command + Q” 组合键关闭应用。

(三)多模型管理

切换默认模型:若在本地部署了多个 DeepSeek 模型版本,或同时部署了其他模型,可以使用 Ollama 命令方便地切换默认模型。例如,要将默认模型切换为deepseek - r1:7b,在终端中输入命令ollama run deepseek - r1:7b。之后在 Cherry Studio 中进行对话时,将默认使用该模型。

模型卸载:如果某些模型不再使用,为了释放硬盘空间,可以使用 Ollama 命令卸载模型。在终端中输入命令ollama delete [模型名称],如ollama delete deepseek - r1:1.5b,即可卸载指定的模型。卸载前请确保该模型确实不再需要,以免误删。

十、故障排除

(一)Ollama 无法启动

检查端口占用:Ollama 默认使用 11434 端口,若该端口被其他程序占用,Ollama 将无法启动。在终端中输入命令lsof -i :11434,如果显示有其他程序占用该端口,如Python、Node.js等,需要关闭占用该端口的程序。在 Windows 系统中,可以通过任务管理器找到对应的程序并结束进程;在 macOS 和 Linux 系统中,可以使用kill命令加上进程 ID 来关闭程序,如kill [进程ID]。关闭占用端口的程序后,再次尝试启动 Ollama。

重启 Ollama 服务:在终端中输入命令ollama serve,该命令会尝试重启 Ollama 服务。若 Ollama 之前启动出现异常,通过此命令重启可能解决问题。重启成功后,再次验证 Ollama 是否能正常工作,可通过ollama --version命令查看版本信息。

(二)Cherry Studio 无法连接 Ollama

确认 Ollama 正在运行:在终端中输入ollama list命令,若能正常列出已下载的模型,说明 Ollama 正在运行。若 Ollama 未运行,按照上述 “Ollama 无法启动” 的解决方法启动 Ollama。

检查服务地址是否正确:在 Cherry Studio 的 “设置”>“模型服务”>“Ollama” 页面中,确认 “API 地址” 是否正确。默认情况下,应填写http://localhost:11434。若 Cherry Studio 和 Ollama 安装在不同计算机上(一般不推荐,可能会因网络问题导致连接不稳定),则需填写 Ollama 所在计算机的 IP 地址和端口,如http://192.168.1.100:11434。确保地址填写无误后,点击“保存”,然后再次尝试连接。

(三)模型下载缓慢或失败

检查网络连接:模型下载需要稳定且高速的网络环境。检查网络连接是否正常,可以通过访问其他网站或进行网络速度测试来确认。若网络连接不稳定,可尝试重启路由器、更换网络连接方式(如从 Wi - Fi 切换到有线网络)或联系网络服务提供商解决网络问题。

切换到国内镜像源:如前文所述,国内用户可配置国内镜像源来加速模型下载。打开 `~

大模型算是目前当之无愧最火的一个方向了,算是新时代的风口!有小伙伴觉得,作为新领域、新方向人才需求必然相当大,与之相应的人才缺乏、人才竞争自然也会更少,那转行去做大模型是不是一个更好的选择呢?是不是更好就业呢?是不是就暂时能抵抗35岁中年危机呢?

答案当然是这样,大模型必然是新风口!

那如何学习大模型 ?

由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。但是具体到个人,只能说是:

最先掌握AI的人,将会比较晚掌握AI的人有竞争优势。
这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。

但现在很多想入行大模型的人苦于现在网上的大模型老课程老教材,学也不是不学也不是,基于此我用做产品的心态来打磨这份大模型教程,深挖痛点并持续修改了近100余次后,终于把整个AI大模型的学习路线完善出来!

在这里插入图片描述

在这个版本当中:

您只需要听我讲,跟着我做即可,为了让学习的道路变得更简单,这份大模型路线+学习教程已经给大家整理并打包分享出来, 😝有需要的小伙伴,可以 扫描下方二维码领取🆓↓↓↓

👉CSDN大礼包🎁:全网最全《LLM大模型学习资源包》免费分享(安全咨料,放心领取)👈

一、大模型经典书籍(免费分享)

AI大模型已经成为了当今科技领域的一大热点,那以下这些大模型书籍就是非常不错的学习资源

在这里插入图片描述

二、640套大模型报告(免费分享)

这套包含640份报告的合集,涵盖了大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。(几乎涵盖所有行业)
在这里插入图片描述

三、大模型系列视频教程(免费分享)

在这里插入图片描述

四、2025最新大模型学习路线(免费分享)

我们把学习路线分成L1到L4四个阶段,一步步带你从入门到进阶,从理论到实战。

img

L1阶段:启航篇丨极速破界AI新时代

L1阶段:了解大模型的基础知识,以及大模型在各个行业的应用和分析,学习理解大模型的核心原理、关键技术以及大模型应用场景。

img

L2阶段:攻坚篇丨RAG开发实战工坊

L2阶段:AI大模型RAG应用开发工程,主要学习RAG检索增强生成:包括Naive RAG、Advanced-RAG以及RAG性能评估,还有GraphRAG在内的多个RAG热门项目的分析。

img

L3阶段:跃迁篇丨Agent智能体架构设计

L3阶段:大模型Agent应用架构进阶实现,主要学习LangChain、 LIamaIndex框架,也会学习到AutoGPT、 MetaGPT等多Agent系统,打造Agent智能体。

img

L4阶段:精进篇丨模型微调与私有化部署

L4阶段:大模型的微调和私有化部署,更加深入的探讨Transformer架构,学习大模型的微调技术,利用DeepSpeed、Lamam Factory等工具快速进行模型微调,并通过Ollama、vLLM等推理部署框架,实现模型的快速部署。

img

L5阶段:专题集丨特训篇 【录播课】

img

全套的AI大模型学习资源已经整理打包,有需要的小伙伴可以微信扫描下方二维码免费领取

👉CSDN大礼包🎁:全网最全《LLM大模型学习资源包》免费分享(安全资料,放心领取)👈

更多推荐