原因： 之前遇到的 “设备不可用且受严格管理”，大概率是因为全局网络服务被禁用了（状态为。，仅操作指定的网卡 / 连接，依赖全局网络服务已开启。nmcli networking on 开启网络。，操作的是整个系统的网络服务开关，覆盖所有设备。nmcli networking 查看状态。nmcli con up ens33 成功。

(记得先删除多余的hpa :kubectl delete hpa <hpa名字>)(记得先删除多余的hpa :kubectl delete hpa <hpa名字>)3.查看是否安装成功：kubectl top nodes --use-protocol-buffers。2.安装：kubectl apply -f components.yaml。6.同时监控 CPU + 内存（最常用）4.HAP监控C

replicas。

Docker 是基于Linux 内核容器技术的开源容器化平台；容器：操作系统级虚拟化，共享宿主机内核，独立文件系统、网络、进程空间；虚拟机：Hypervisor + 完整 OS，笨重、启动慢、资源开销大Docker 容器：共享宿主机内核，只打包应用 + 依赖，轻量、秒级启动。

Docker 是基于Linux 内核容器技术的开源容器化平台；容器：操作系统级虚拟化，共享宿主机内核，独立文件系统、网络、进程空间；虚拟机：Hypervisor + 完整 OS，笨重、启动慢、资源开销大Docker 容器：共享宿主机内核，只打包应用 + 依赖，轻量、秒级启动。

git clone --depth 1 https://github.com/hiyouga/LLaMA-Factory.gitcd LLaMA-Factorypip install -e ".[torch,metrics]"pip install --no-deps -e .llamafactory-cli train examples/train_lora/llama3_lora_sft.ya

4.部署openai API服务。

2. 开始转换hf模型为gguf，需要用|lama.cpp仓库的convert_hf_to_gguf.py脚本来转换。8.open-webui界面集成使用。#需要量化(加速并有损失效果)5.创建Modelfile。#不量化,保留模型的效果。4.启动ollama。

replicas。

Dify 是一款开源的 LLM 应用开发平台，旨在降低大语言模型应用的开发门槛，支持可视化搭建 AI 应用（如智能问答、AI Agent、RAG 知识库等），提供一站式的 prompt 工程、知识库管理、API 部署与调用能力，开发者无需复杂编码即可快速构建、测试并发布 AI 应用，同时兼容主流大模型（如 GPT、Claude、文心一言等），兼具私有化部署和团队协作特性，广泛用于企业级 AI 解决