本地部署 Llama 3（包含中文版本）

以下版本为 Win 系统

Mac 操作方式一致，命令需要在终端中运行；

首先需要下载安装一个 Ollama 平台

下载后解压安装，安装过程就不展示了

搜索电脑里的 启用或关闭 windows 功能

打开适用于 linux 的 windows 子系统，并重启电脑

重启电脑后，安装 Docker 桌面

Docker Desktop: The #1 Containerization Tool for Developers | Docker

Docker Desktop is collaborative containerization software for developers. Get started and download Docker Desktop today on Mac, Windows, or Linux.

Docker

安装好后，需要再次重启电脑

重启后。继续安装

安装完成后，启动电脑命令提示符，输入一下命令。进行安装（Win系统）大概下载时间为，10分钟左右其实这一步只是为了，可以有一个类似ChatGPT的对话UI界面

Mac 系统如下。在终端中运行

安装完成，打开地址http://127.0.0.1:3000任何邮箱都可以注册 OpenWebUI

登录后，可切换语言

切换到模型，搜索模型

目前国内外市场上主流开源模型这里都可以找到

选择模型版本号

复制模型名称

删除，模型名的前缀

开始进入下载

下载完成后，即可切换模型使用了

看到很多同学对于 Llama 3 中文理解不友好的问题，也找到了解决办法是由 王慎执 博士微调后的中文版Llama 3以下为，huggingface主页https://huggingface.co/shenzhi-wang/Llama3-8B-Chinese-Chat在搜索框搜索 shenzhi 即可找到

演示结果，不会出现英文

二次启动只需要，启动 Docker 桌面即可，并且可以完全断网使用

👉AI大模型学习路线汇总👈

大模型学习路线图，整体分为7个大的阶段：（全套教程文末领取哈）

第一阶段： 从大模型系统设计入手，讲解大模型的主要方法；

第二阶段： 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；

第三阶段： 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；

第四阶段： 大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；

第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；

第六阶段： 以SD多模态大模型为主，搭建了文生图小程序案例；

第七阶段： 以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。

👉大模型实战案例👈

光学理论是没用的，要学会跟着一起做，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。

👉大模型视频和PDF合集👈

观看零基础学习书籍和视频，看书籍和视频学习是最快捷也是最有效果的方式，跟着视频中老师的思路，从基础到深入，还是很容易入门的。

👉学会后的收获：👈

• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；

• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；

• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；

• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。

👉获取方式：

😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓