1、用到的chat软件是LM Studio-[LM Studio - Local AI on your computer](https://lmstudio.ai/)
2、
下载windows版本，然后本地安装，他这个版本是可以更改安装位置的。
3、下载后，点击运行!

4、点击右下角的小齿轮，打开后找到

language，然后改成 简体中文 然后x掉即可
5、配置大模型

在左侧有一个放大镜，点击他，里面有各种各样的模型。因为我电脑的显存是8g，所以一般选择8b的模型，这里可以根据你自己的个人喜好选择下载!

6、模型名称区别：embedding可以理解为专门为本地知识库准备的，专门处理知识库的相关问题。

GGUF是一种轻量化的方案，可以让你的模型更小，但是对应的也会变得不聪明
VL是专门处理视觉图形的，比如让模型理解你的截图，视频等

在粗略的描述一下对应关系，你的模型有多大，加载显存的大小就有多大，举个例子，你的8b文件是4.68g，那么显存占用5.4g左右。

后续会出一个本地化部署知识库 并由ai分析和调用 的全套过程。