相较于其他人工智能模型,DeepSeek 有免费且功能强大的优势。但其容易崩溃且幻觉率高的问题,极大限制了实际应用价值;通过本地部署 DeepSeek 并结合知识库搭建的方案,可以解决以上两个问题。下面将详细介绍如何本地部署并且搭建个人知识库。

01 本地部署 DeepSeek 模型

1.下载安装平台

打开浏览器,在地址栏输入 “https://ollama.com/”,回车进入对应网站。如下图所示。

图片

图1

点击页面中的下载按钮。下载完成后,点击安装按钮,将其安装到电脑上。如下图所示。

图片

图2

2.验证安装是否成功

按下键盘的 “win + R” 键,在弹出的窗口中输入 “cmd”,进入命令窗口。如下图所示。

图片

图3

在命令窗口中输入 “0llama -v”,若能看到版本号,则表示安装成功。如下图所示。

图片

图4

3.下载并运行大模型

回到下载平台的网站,点击 “大模型” 选项,进入 DeepSeek - R1 的页面。如下图所示。

图片

图5

页面中有多个版本的大模型,越往后版本体积越大、占用磁盘空间越多,可根据需求选择,这里以最小版本为例。如下图所示。

图片

图6

复制该版本对应的命令,粘贴到之前打开的命令窗口中,回车后电脑会开始下载。如下图所示。

图片

图7

下载完成后,即可在命令窗口中与大模型进行对话。到这一步就可以说是已经布置好本地部署了。

图片

图8

在下一节将介绍构建知识库的具体步骤。

02 搭建个人知识库

1.下载安装知识库软件(Anythingllm)

打开浏览器,访问网站 “https://anythingllm.com/” ,根据自己的操作系统选择对应的版本进行下载。

图片

图9

下载完成后,双击文件进行安装,安装完成后点击 “完成” 运行软件。

图片

图10

2.软件初始设置

软件启动后会出现向导,点击 “开始”,在下方选择 “ollama”,然后选择已安装且可正常运行的大模型,点击右侧按钮进入下一步。

图片

图11

连续点击下一步,遇到需要提供邮箱的步骤时,点击下方的跳过选项。

随后为工作区命名(例如 “学习”),点击右侧按钮完成建立。

图片

图12

3.配置工作区及投喂知识

点击工作区后面的齿轮图标,在聊天设置中,确保已选择 “ollama” 提供模型对话,将默认的英文角色定义修改为中文(例如 “你是一个大学教授,根据知识库内容,用中文回复。”),然后保存设置。

图片

图13

点击工作区后面的上传符号,进入知识库界面,点击 “上传” 按钮。

图片

图14

选择准备好的资料上传到左侧的所有文档中。

图片

图15

勾选上传的资料,将其移动到下面的当前工作区中,点击保存,确保文档成功移至右侧后关闭界面。

图片

图16

验证知识库搭建成功:在左侧新建一个对话进程,尝试让大模型介绍相关内容(如 “讲一下什么是热力学第二定律。”)。

图片

图17

若未读取到知识库内容,点击知识库后面的图钉图标将其固定。

图片

图18

再次新建对话进程,让大模型介绍相关内容,若能读取到上传的资料,则表示知识库搭建成功,之后可让大模型根据知识库内容进行后续操作。

结语

本地部署 DeepSeek 并搭建个人知识库,既解决了网页版易崩溃的问题,又凭借知识库可降低幻觉率。

想入门 AI 大模型却找不到清晰方向?备考大厂 AI 岗还在四处搜集零散资料?

别再浪费时间啦!2025 年 AI 大模型全套学习资料已整理完毕,从学习路线到面试真题,从工具教程到行业报告,一站式覆盖你的所有需求,现在全部免费分享

👇👇扫码免费领取全部内容👇👇

一、学习必备:100+本大模型电子书+26 份行业报告 + 600+ 套技术PPT,帮你看透 AI 趋势

想了解大模型的行业动态、商业落地案例?大模型电子书?这份资料帮你站在 “行业高度” 学 AI

1. 100+本大模型方向电子书

在这里插入图片描述

2. 26 份行业研究报告:覆盖多领域实践与趋势

报告包含阿里、DeepSeek 等权威机构发布的核心内容,涵盖:

  • 职业趋势:《AI + 职业趋势报告》《中国 AI 人才粮仓模型解析》;
  • 商业落地:《生成式 AI 商业落地白皮书》《AI Agent 应用落地技术白皮书》;
  • 领域细分:《AGI 在金融领域的应用报告》《AI GC 实践案例集》;
  • 行业监测:《2024 年中国大模型季度监测报告》《2025 年中国技术市场发展趋势》。

3. 600+套技术大会 PPT:听行业大咖讲实战

PPT 整理自 2024-2025 年热门技术大会,包含百度、腾讯、字节等企业的一线实践:

在这里插入图片描述

  • 安全方向:《端侧大模型的安全建设》《大模型驱动安全升级(腾讯代码安全实践)》;
  • 产品与创新:《大模型产品如何创新与创收》《AI 时代的新范式:构建 AI 产品》;
  • 多模态与 Agent:《Step-Video 开源模型(视频生成进展)》《Agentic RAG 的现在与未来》;
  • 工程落地:《从原型到生产:AgentOps 加速字节 AI 应用落地》《智能代码助手 CodeFuse 的架构设计》。

二、求职必看:大厂 AI 岗面试 “弹药库”,300 + 真题 + 107 道面经直接抱走

想冲字节、腾讯、阿里、蔚来等大厂 AI 岗?这份面试资料帮你提前 “押题”,拒绝临场慌!

1. 107 道大厂面经:覆盖 Prompt、RAG、大模型应用工程师等热门岗位

面经整理自 2021-2025 年真实面试场景,包含 TPlink、字节、腾讯、蔚来、虾皮、中兴、科大讯飞、京东等企业的高频考题,每道题都附带思路解析

2. 102 道 AI 大模型真题:直击大模型核心考点

针对大模型专属考题,从概念到实践全面覆盖,帮你理清底层逻辑:

3. 97 道 LLMs 真题:聚焦大型语言模型高频问题

专门拆解 LLMs 的核心痛点与解决方案,比如让很多人头疼的 “复读机问题”:


三、路线必明:AI 大模型学习路线图,1 张图理清核心内容

刚接触 AI 大模型,不知道该从哪学起?这份「AI大模型 学习路线图」直接帮你划重点,不用再盲目摸索!

在这里插入图片描述

路线图涵盖 5 大核心板块,从基础到进阶层层递进:一步步带你从入门到进阶,从理论到实战。

img

L1阶段:启航篇丨极速破界AI新时代

L1阶段:了解大模型的基础知识,以及大模型在各个行业的应用和分析,学习理解大模型的核心原理、关键技术以及大模型应用场景。

img

L2阶段:攻坚篇丨RAG开发实战工坊

L2阶段:AI大模型RAG应用开发工程,主要学习RAG检索增强生成:包括Naive RAG、Advanced-RAG以及RAG性能评估,还有GraphRAG在内的多个RAG热门项目的分析。

img

L3阶段:跃迁篇丨Agent智能体架构设计

L3阶段:大模型Agent应用架构进阶实现,主要学习LangChain、 LIamaIndex框架,也会学习到AutoGPT、 MetaGPT等多Agent系统,打造Agent智能体。

img

L4阶段:精进篇丨模型微调与私有化部署

L4阶段:大模型的微调和私有化部署,更加深入的探讨Transformer架构,学习大模型的微调技术,利用DeepSpeed、Lamam Factory等工具快速进行模型微调,并通过Ollama、vLLM等推理部署框架,实现模型的快速部署。

img

L5阶段:专题集丨特训篇 【录播课】

img
四、资料领取:全套内容免费抱走,学 AI 不用再找第二份

不管你是 0 基础想入门 AI 大模型,还是有基础想冲刺大厂、了解行业趋势,这份资料都能满足你!
现在只需按照提示操作,就能免费领取

👇👇扫码免费领取全部内容👇👇

2025 年想抓住 AI 大模型的风口?别犹豫,这份免费资料就是你的 “起跑线”!

Logo

欢迎加入我们的广州开发者社区,与优秀的开发者共同成长!

更多推荐