写在前面，本文中的ollama是用docker部署的，用别的方式安装的ollama只需要改一下Modelfile的路径和Modelfile文件内容的FROM路径就可以，改为实际路径。注意要把上面转化的gguf文件复制到docker-ollama的实体映射文件夹中，不然会显示找不到文件，同样的，这个Modelfile文件也要放在这个映射文件中。其中/home/modelEX是要转化的文件，/home

开发记录。

（2）searxng文件夹中的settings.yaml文件修改secret_key项，不允许为默认值，可以使用官网的方法生成这个key。2.进入下载后的文件，修改docker-compose.yaml和searxng文件夹中的settings.yaml文件。（1）docker-compose.yaml修改的地方，主要是把ports项修改了，便于其他ip访问。engines引擎添加了bing的默认

如/home/huggingface/hub/models--Qwen--Qwen2.5-0.5B/snapshots/060db6499f32faf8b98477b0a26969ef7d8b9987。如果出现https://hf-mirror.com就代表生效了。（3）下载qwen2.5-0.7b(下载全名去官网查)11、下载基座模型（通过huggingface）2、下载llama-factor

写在前面，本文中的ollama是用docker部署的，用别的方式安装的ollama只需要改一下Modelfile的路径和Modelfile文件内容的FROM路径就可以，改为实际路径。注意要把上面转化的gguf文件复制到docker-ollama的实体映射文件夹中，不然会显示找不到文件，同样的，这个Modelfile文件也要放在这个映射文件中。其中/home/modelEX是要转化的文件，/home

如/home/huggingface/hub/models--Qwen--Qwen2.5-0.5B/snapshots/060db6499f32faf8b98477b0a26969ef7d8b9987。如果出现https://hf-mirror.com就代表生效了。（3）下载qwen2.5-0.7b(下载全名去官网查)11、下载基座模型（通过huggingface）2、下载llama-factor