(记得先删除多余的hpa :kubectl delete hpa <hpa名字>)(记得先删除多余的hpa :kubectl delete hpa <hpa名字>)3.查看是否安装成功：kubectl top nodes --use-protocol-buffers。2.安装：kubectl apply -f components.yaml。6.同时监控 CPU + 内存（最常用）4.HAP监控C

replicas。

Docker 是基于Linux 内核容器技术的开源容器化平台；容器：操作系统级虚拟化，共享宿主机内核，独立文件系统、网络、进程空间；虚拟机：Hypervisor + 完整 OS，笨重、启动慢、资源开销大Docker 容器：共享宿主机内核，只打包应用 + 依赖，轻量、秒级启动。

Docker 是基于Linux 内核容器技术的开源容器化平台；容器：操作系统级虚拟化，共享宿主机内核，独立文件系统、网络、进程空间；虚拟机：Hypervisor + 完整 OS，笨重、启动慢、资源开销大Docker 容器：共享宿主机内核，只打包应用 + 依赖，轻量、秒级启动。

git clone --depth 1 https://github.com/hiyouga/LLaMA-Factory.gitcd LLaMA-Factorypip install -e ".[torch,metrics]"pip install --no-deps -e .llamafactory-cli train examples/train_lora/llama3_lora_sft.ya

4.部署openai API服务。

2. 开始转换hf模型为gguf，需要用|lama.cpp仓库的convert_hf_to_gguf.py脚本来转换。8.open-webui界面集成使用。#需要量化(加速并有损失效果)5.创建Modelfile。#不量化,保留模型的效果。4.启动ollama。

replicas。

Dify 是一款开源的 LLM 应用开发平台，旨在降低大语言模型应用的开发门槛，支持可视化搭建 AI 应用（如智能问答、AI Agent、RAG 知识库等），提供一站式的 prompt 工程、知识库管理、API 部署与调用能力，开发者无需复杂编码即可快速构建、测试并发布 AI 应用，同时兼容主流大模型（如 GPT、Claude、文心一言等），兼具私有化部署和团队协作特性，广泛用于企业级 AI 解决

Zabbix是一款企业级开源监控系统，支持对服务器、网络设备和应用的全面监控。其核心功能包括实时状态采集、自动告警通知和数据可视化分析。系统由服务端（Zabbix Server/Proxy）、客户端（Agent）、数据存储（关系型数据库）和可视化组件（WebUI）构成。部署流程包括环境准备、组件安装、数据库初始化、Web配置和告警设置。Zabbix支持分布式部署，适用于不同规模企业的IT基础设施监