Ollama 是一个用于本地运行大型语言模型的工具，支持多种开源模型。在 Ubuntu 系统中安装 Ollama 需要确保系统已安装必要的依赖项，包括。通过修改运行参数可以调整模型性能。例如，限制 GPU 显存使用或设置上下文长度。Ollama 提供本地 REST API，默认监听端口 11434。Ollama 支持多种开源大模型，包括 DeepSeek、Qwen 等。首次运行时会自动下载模型文件