前置操作:

已经安装以下软件,并配置后:

  1. DeepSeek-R1-Distill-Llama-8B-Q4_K_M.gguf
  2. LM-Studio-0.3.10-6-x64

软件准备:

下载AnythingLLM:AnythingLLM | The all-in-one AI application for everyone

点击"Download for desktop"

选择相应版本,并点击下载:

双击可执行文件,按照提示安装:

LM Studio配置:

  1. 左侧选择
  2. 启动Status Running,并在上方选择加载模型。
  3. 选择设置:

AnythingLLM配置:

  1. 左上角新建工作区。
  2. 点击设置
  3. 在“聊天设置“中,选择:
  4. 在”代理配置”中选择:
  5. 选择左侧下方的
  6. LLM首选项:
  7. Embedder首选项:
  8. 返回工作区后,选择
  9. 在我的文档中点击,并上传本地文件:
  10. 上传成功后,勾选并点击“Move to Workshop”

Logo

更多推荐