这次我们来看一个能大幅降低 AI 使用成本的技术方案：通过 Ollama 在本地运行 Claude 代码。这个项目的核心思路不是去破解或盗用商业 API，而是利用开源生态，将类似 Claude 能力的模型部署在你自己的电脑或服务器上，从而绕过按 Token 计费的云服务，实现近乎零成本的 AI 应用开发与测试。

对于开发者、研究者和有批量文本处理需求的团队来说，最大的痛点往往是 API 调用费用。每次调试、测试或处理大量数据，成本都在累积。这个方案直接瞄准了这个痛点，它基于 Ollama 这个强大的本地大模型运行框架，让你能够拉取并运行与 Claude 在代码、推理、对话能力上相近的开源模型。最值得关注的几个特点是： 硬件门槛相对亲民 （支持 CPU 和 GPU 推理）、 部署极其简单 （几条命令即可）、 完全本地运行 （数据不出本地，隐私安全）、以及 支持类 API 的调用方式 （方便集成到现有工作流）。本文将带你从零开始，完成环境准备、模型拉取、服务启动、功能测试以及集成到 Better Stack 进行监控的全过程，让你彻底掌握这套降本增效的实战方法。

1. 核心能力速览

在深入细节之前，我们先通过一个表格快速了解这个方案的核心能力和要求，帮助你判断是否适合你的场景。

能力项 说明
核心项目 Ollama (本地大模型运行与管理框架)
目标模型 类 Claude 能力的开源模型 (如: deepseek-coder, codellama, llama3.2, qwen2.5-coder等)
核心价值 替代部分商业 API 调用，大幅降低开发、测试与批量处理成本
硬件门槛 灵活。支持纯 CPU 推理（速度慢），强烈推荐使用 GPU（NVIDIA/AMD/Apple Silicon）。显存需求取决于模型大小，7B 参数模型约需 6-8GB 显存。
部署方式 命令行一键安装与模型拉取，无需复杂环境配置。
运行模式 常驻后台服务，提供类 OpenAI API 的兼容接口。
是否支持 API 是 。提供 http://localhost:11434/api 系列端点，兼容部分 OpenAI API 格式。
是否支持批量 是 。可通过脚本循环调用或利用 Ollama 的多模型加载能力并行处理。
适合场景 本地开发测试、内部工具构建、敏感数据预处理、AI 应用原型验证、教育学习。
不适合场景 对模型能力要求极高（需 Claude-3.5-Sonnet级别）、需要极高并发在线服务、无本地计算资源。

2. 适用场景与使用边界

在决定投入时间之前，明确它能做什么、不能做什么至关重要。

适合谁用？

  • 全栈与后端开发者 ：需要在本地测试 AI 功能，如代码生成、注释编写、Bug 修复，而不想消耗云 API 额度。
  • 数据工程师与分析员 ：有大量文本总结、格式化、清洗需求，本地处理更经济、安全。
  • 产品与运营团队 ：构建内部自动化工具，如客服话术生成、报告初稿撰写、内容标签化。
  • 学生与研究者 ：学习大模型原理与应用，需要一个低成本、可反复实验的沙箱环境。

能解决什么问题？

  1. 成本问题 ：将频繁的、实验性的 AI 调用从付费 API 转移到本地，成本趋近于零（仅电费）。
  2. 延迟问题 ：本地网络延迟极低，对于交互式应用体验更好。
  3. 隐私问题 ：敏感数据、内部代码、未公开文档无需上传至第三方服务器。
  4. 可控性问题 ：可随时中断、修改、重启服务，不受供应商服务条款或费率变动影响。

需要警惕的边界：

  1. 能力差距 ：最强的开源代码模型与 Claude-3.5-Sonnet 在复杂逻辑、长上下文深度理解上仍有差距。本地模型更适合中等复杂度任务。
  2. 硬件限制 ：模型越大，能力越强，但对显存要求越高。需在模型能力与硬件条件间权衡。
  3. 合规与授权 ：务必使用官方许可的开源模型。严禁将本地模型用于生成恶意代码、进行网络攻击、制造虚假信息或侵犯他人知识产权。
  4. 生产环境 ：对于核心业务的生产环境，除非经过充分的压力测试、稳定性验证和备份方案设计，否则仍需谨慎评估。本地部署的可靠性取决于单点硬件。

3. 环境准备与前置条件

让我们开始准备战场。你的环境将决定体验的流畅度。

基础环境清单：

  • 操作系统 ：Windows 10/11, macOS, Linux (Ubuntu/Debian/CentOS 等主流发行版)。本文以 Linux/macOS 命令为例，Windows 用户可使用 PowerShell 或 WSL2。
  • 存储空间 ：至少准备 10-20 GB 可用空间。模型文件从几 GB 到几十 GB 不等。
  • 网络 ：需要稳定的网络连接以下载 Ollama 二进制文件和模型数据。

硬件推荐方案（从优到次）：

  1. NVIDIA GPU 方案（最佳） ：
    • 显卡：GTX 1060 6G 及以上，推荐 RTX 3060 12G、RTX 4060 Ti 16G 或更高。
    • 驱动：安装最新版 NVIDIA 显卡驱动。
    • CUDA：Ollama 会自动利用 GPU，通常无需单独安装完整 CUDA Toolkit，但确保驱动支持 CUDA。
  2. Apple Silicon Mac 方案（便捷） ：
    • 芯片：M1/M2/M3 系列。
    • 内存：统一内存 16GB 及以上，模型会占用大量内存。
  3. 纯 CPU 方案（保底） ：
    • CPU：现代多核处理器（如 Intel i7/Ryzen 7 以上）。
    • 内存：16GB 及以上，32GB 更佳。速度较慢，但可以运行。

关键检查点（在安装前完成）：

  • 打开终端（或 PowerShell），检查显卡状态（Linux/macOS 可用 nvidia-smi ，Windows 可在任务管理器查看）。
  • 确保磁盘空间充足： df -h (Linux/macOS) 或 查看文件资源管理器 (Windows)。

4. 安装部署与启动方式

Ollama 的安装可能是整个流程中最简单的一步。

4.1 安装 Ollama

访问 Ollama 官网获取最适合你系统的安装命令。通常是一行脚本或一个安装包。

Linux/macOS (一键脚本安装): 

# 在终端中执行官方安装脚本
curl -fsSL https://ollama.com/install.sh | sh

安装完成后，Ollama 服务会自动启动。你可以通过 ollama --version 验证安装。

Windows:

  • 直接下载官网提供的 .exe 安装程序，双击运行即可。
  • 安装后，Ollama 会作为后台服务运行。你可以在开始菜单找到 “Ollama” 并打开其命令行界面。

4.2 拉取类 Claude 的代码模型

Ollama 的核心优势在于庞大的模型库。我们需要寻找在代码能力上表现突出的模型。以下是一些经过社区验证的优秀选择：

# 拉取一个通用的、能力均衡的代码模型，例如 CodeLlama 的 7B 指令微调版
ollama pull codellama:7b-instruct

# 或者，拉取一个更专注于代码的模型，如 DeepSeek-Coder
ollama pull deepseek-coder:6.7b-instruct

# 对于追求更强综合能力的模型，可以尝试 Llama 3.2 或 Qwen2.5 的代码版本
# ollama pull llama3.2:latest
# ollama pull qwen2.5-coder:7b

参数解释 ：

  • pull ：从模型库下载模型。
  • codellama:7b-instruct ： 模型名:标签 。 7b-instruct 表示 70 亿参数且经过指令微调的版本，更适合对话和任务执行。
  • 模型大小：标签中的 7b 、 13b 、 34b 代表参数规模。数字越大，通常能力越强，但对硬件要求也越高。 首次尝试建议从 7B 模型开始 。

下载时间取决于你的网速和模型大小（几 GB 到几十 GB）。下载完成后，模型就保存在本地了。

4.3 启动模型服务与交互

Ollama 默认以后台服务（ ollama serve ）形式运行。安装后通常已自动启动。我们可以直接与模型交互。

方式一：命令行直接对话（测试用） 

# 与指定的模型进行交互式对话，按 Ctrl+D 结束
ollama run codellama:7b-instruct

启动后，你会看到 >>> 提示符，直接输入问题即可，例如：“用 Python 写一个快速排序函数”。

方式二：启动 API 服务（用于集成） Ollama 服务本身就在运行并监听 API 端口。默认地址是 http://127.0.0.1:11434 。我们可以通过 curl 快速测试 API 是否通畅。

# 查看已下载的模型列表
curl http://127.0.0.1:11434/api/tags

# 与模型进行单轮对话（JSON格式）
curl http://127.0.0.1:11434/api/generate -d '{
  "model": "codellama:7b-instruct",
  "prompt": "用三句话解释什么是递归",
  "stream": false
}'

如果看到返回了 JSON 格式的响应，包含 "response" 字段，说明 API 服务运行正常。

5. 功能测试与效果验证

安装成功只是第一步，我们需要验证模型的实际能力是否满足“替代 Claude 进行编码”的期望。

5.1 基础代码生成测试

我们通过 API 来模拟一个常见的开发场景：生成一个特定功能的代码片段。

测试用例：生成一个 Flask RESTful API 

curl http://127.0.0.1:11434/api/generate -d '{
  "model": "deepseek-coder:6.7b-instruct",
  "prompt": "请创建一个简单的 Flask 应用，它有一个 GET /health 端点返回 {\"status\": \"ok\"}，和一个 POST /calc 端点接收 JSON {\"a\": number, \"b\": number, \"op\": \"+\"|\"-\"|\"*\"|\"/\"} 并返回计算结果。请包含必要的导入和错误处理。",
  "stream": false,
  "options": {
    "temperature": 0.2, # 降低随机性，让输出更确定
    "num_predict": 1024 # 最大生成长度
  }
}' | python3 -m json.tool # 格式化输出JSON

预期结果与判断 ：

  • 成功 ：返回的 JSON 中 response 字段包含完整、可运行的 Python (Flask) 代码。代码结构清晰，包含路由定义、请求解析和基本的错误处理（如除零错误）。
  • 部分成功 ：生成了代码框架，但可能有语法错误或逻辑缺陷。这说明模型具备基础代码理解能力，但需要更精确的提示词或后续调试。
  • 失败 ：返回无关文本、代码严重残缺或无法解析的格式。可能原因：模型未加载成功、提示词不清晰、显存不足导致推理中断。

5.2 代码解释与调试测试

让模型扮演一个代码审查员的角色。

测试用例：解释并修复一个有 Bug 的函数 

curl http://127.0.0.1:11434/api/generate -d '{
  "model": "codellama:7b-instruct",
  "prompt": "以下 Python 函数试图计算列表的平均值，但有 Bug。请指出 Bug 并给出修复后的代码。\n```python\ndef calculate_average(numbers):\n    total = 0\n    for i in range(len(numbers)):\n        total += numbers[i]\n    average = total / len(numbers)\n    return average\n```\n调用 calculate_average([]) 会导致什么错误？如何修复？",
  "stream": false
}'

判断标准 ：

  • 模型是否能识别出“空列表导致除零错误”这个关键问题？
  • 提出的修复方案是否合理？（例如，增加 if len(numbers) == 0: return 0 或抛出异常）。

5.3 长上下文与多轮对话测试

测试模型是否能记住对话历史，这在调试和复杂任务分解中很重要。Ollama 的 /api/chat 端点支持多轮对话。

# 第一轮：提出一个复杂需求
curl http://127.0.0.1:11434/api/chat -d '{
  "model": "llama3.2:latest",
  "messages": [
    {"role": "user", "content": "我想用 Python 写一个爬虫，爬取某个新闻网站标题，但需要绕过简单的反爬机制。"}
  ],
  "stream": false
}'

# 假设第一轮返回了建议使用 requests 和 User-Agent。第二轮可以接着问。
# 这里需要将第一轮的回复作为历史记录。实际应用中，你需要维护 messages 数组。
# 以下是一个模拟两轮对话的示例：
curl http://127.0.0.1:11434/api/chat -d '{
  "model": "llama3.2:latest",
  "messages": [
    {"role": "user", "content": "我想用 Python 写一个爬虫，爬取某个新闻网站标题，但需要绕过简单的反爬机制。"},
    {"role": "assistant", "content": "可以使用 requests 库并设置合理的 User-Agent 和请求间隔。避免频繁访问。"},
    {"role": "user", "content": "如果网站用了动态加载，内容在 JavaScript 里怎么办？"} 
  ],
  "stream": false
}'

判断标准 ：模型在第二轮回答中，是否能基于“反爬”和“动态加载”这两个上下文，提出使用 selenium 或 playwright 等方案，而不是重新从零开始讲 requests 。

6. 接口 API 与批量任务

将 Ollama 集成到你的自动化脚本或应用中，才是发挥其成本优势的关键。

6.1 兼容 OpenAI API 格式

Ollama 提供了 v1/chat/completions 端点，部分兼容 OpenAI API 格式，这使得许多现有的、基于 OpenAI SDK 的代码可以最小修改地运行起来。

Python 调用示例： 

import requests
import json

def ask_ollama(prompt, model="codellama:7b-instruct"):
    url = "http://127.0.0.1:11434/v1/chat/completions"
    headers = {"Content-Type": "application/json"}
    data = {
        "model": model,
        "messages": [{"role": "user", "content": prompt}],
        "stream": False,
        "max_tokens": 1024
    }
    try:
        response = requests.post(url, headers=headers, data=json.dumps(data), timeout=60)
        response.raise_for_status()
        result = response.json()
        return result["choices"][0]["message"]["content"]
    except requests.exceptions.RequestException as e:
        return f"请求失败: {e}"
    except (KeyError, IndexError, json.JSONDecodeError) as e:
        return f"解析响应失败: {e}"

# 使用示例
if __name__ == "__main__":
    code_prompt = "写一个函数，判断一个字符串是不是回文。"
    answer = ask_ollama(code_prompt)
    print("模型回复：")
    print(answer)

6.2 批量任务处理框架

当你有成百上千个文本需要处理时（如代码注释生成、日志分析、数据清洗），批量调用是必须的。

简单的 Python 批量处理脚本： 

import requests
import json
import time
from concurrent.futures import ThreadPoolExecutor, as_completed

OLLAMA_API = "http://127.0.0.1:11434/api/generate"
MODEL = "deepseek-coder:6.7b-instruct"

def process_single_item(task_description):
    """处理单个任务"""
    payload = {
        "model": MODEL,
        "prompt": task_description,
        "stream": False,
        "options": {"temperature": 0.1}
    }
    try:
        resp = requests.post(OLLAMA_API, json=payload, timeout=120)
        resp.raise_for_status()
        return resp.json()["response"]
    except Exception as e:
        return f"ERROR: {e}"

def batch_process(task_list, max_workers=2):
    """批量处理任务，控制并发数避免压垮服务"""
    results = []
    with ThreadPoolExecutor(max_workers=max_workers) as executor:
        future_to_task = {executor.submit(process_single_item, task): task for task in task_list}
        for future in as_completed(future_to_task):
            task = future_to_task[future]
            try:
                result = future.result()
                results.append((task, result))
                print(f"任务完成: {task[:50]}...")
            except Exception as exc:
                results.append((task, f"生成异常: {exc}"))
                print(f"任务失败: {task[:50]}... -> {exc}")
    return results

# 模拟一批任务
tasks = [
    "为以下函数生成文档注释：def add(a, b): return a + b",
    "将以下英文错误信息翻译成中文：'Connection timeout'",
    "用一行Python代码计算列表的平方和",
    # ... 更多任务
]

if __name__ == "__main__":
    print("开始批量处理...")
    all_results = batch_process(tasks, max_workers=2) # 并发数不宜过高
    for task, result in all_results:
        print(f"\n输入: {task}")
        print(f"输出: {result[:200]}...") # 只打印前200字符
    print("批量处理完成。")

关键点 ：

  • 并发控制 ( max_workers ) ：根据你的机器性能（特别是 GPU 显存）设置。对于 7B 模型，通常并发 1-2 个请求是安全的。过高并发会导致显存溢出 (OOM)。
  • 超时设置 ( timeout ) ：给模型充分的推理时间，特别是对于复杂任务。
  • 错误处理 ：网络波动、模型服务重启都可能导致单个请求失败，必须有重试或降级机制。
  • 结果持久化 ：实际应用中，应将结果立即保存到文件或数据库中。

7. 资源占用与性能观察

了解你的资源消耗，是优化和稳定运行的基础。

7.1 如何观察资源占用

Linux/macOS:

  • GPU 显存 ：在另一个终端运行 watch -n 1 nvidia-smi （NVIDIA）或 ollama ps 查看模型运行状态。
  • CPU/内存 ：使用 htop 或 top 命令。

Windows:

  • 打开任务管理器，查看“性能”选项卡下的 GPU、CPU 和内存使用情况。

Ollama 自带命令 ：

# 查看当前正在运行的模型及其资源占用
ollama ps

这个命令会显示模型名称、创建时间、GPU 内存占用和系统内存占用，非常直观。

7.2 性能影响因素与调优

  1. 模型大小 ：这是最大的影响因素。34B 模型比 7B 模型慢得多，显存占用也大得多。 根据任务复杂度选择最小可用的模型 。
  2. 提示词长度 ：输入的提示词（ prompt ）越长，模型需要处理的上下文越多，生成速度会变慢，显存占用也会增加。
  3. 生成长度 ： num_predict / max_tokens 参数控制生成文本的最大长度。生成越长，耗时越久。
  4. 温度 ( temperature ) ：较低的温度（如 0.1-0.3）使输出更确定、更集中，适合代码生成。较高的温度（如 0.7-0.9）更有创造性，但可能生成不合逻辑的代码。调整温度可以影响“思考”时间，但影响不大。
  5. 量化精度 ：Ollama 拉取的模型通常是经过量化的（如 q4_K_M, q8_0）。量化等级越低（如 q2_K），模型越小、越快，但精度损失可能影响代码质量。通常默认的量化级别是性能和质量的良好平衡。

如何降低显存占用以在低配硬件上运行？

  • 选择更小的模型（如 3B、7B 参数）。
  • 使用量化等级更高的版本（如果社区提供了 :q2_K 标签的模型，可以尝试 ollama pull codellama:7b-instruct-q2_K ）。
  • 在 API 调用中设置 num_ctx （上下文窗口）为一个较小的值（如 2048），但这会限制模型“记忆”的长度。

8. 常见问题与排查方法

遇到问题不要慌，大部分都是常见配置或环境问题。

问题现象 可能原因 排查方式 解决方案
ollama 命令未找到 未正确安装或 PATH 环境变量未设置 执行 which ollama (Linux/macOS) 或 where ollama (Windows) 重新安装，或将 Ollama 安装目录加入系统 PATH。
ollama serve 启动失败或端口冲突 默认端口 11434 被占用 执行 netstat -an | grep 11434 (Linux/macOS) 或 netstat -ano | findstr :11434 (Windows) 终止占用端口的进程，或修改 Ollama 服务配置（环境变量 OLLAMA_HOST 可指定地址和端口）。
拉取模型速度极慢或失败 网络连接问题，或下载源问题 检查网络，尝试 curl -v https://ollama.com 1. 使用网络工具。2. 检查 Ollama 日志 ( ~/.ollama/logs/ )。3. 考虑手动下载模型文件（社区有相关教程）。
运行模型时提示 CUDA error 或 GPU not found GPU 驱动未安装、CUDA 版本不兼容或 Ollama 未检测到 GPU 运行 ollama run llama3.2:latest 观察输出，或查看日志。 1. 更新 NVIDIA 驱动。2. 确保安装的是支持 GPU 的 Ollama 版本。3. 对于不支持 GPU 的旧显卡，只能使用 CPU 模式。
运行模型时进程被杀死，提示 OOM (Out Of Memory) 显存或内存不足 运行 ollama ps 查看模型占用，或用系统监控工具。 1. 换用更小的模型。2. 关闭其他占用显存的程序。3. 减少 API 调用的并发数。4. 尝试纯 CPU 模式（速度会慢）。
API 调用返回 404 或 model not found 模型名称拼写错误或未下载 执行 ollama list 确认本地模型列表。 1. 检查 model 参数是否与 ollama list 中的名称完全一致。2. 使用 ollama pull 下载对应模型。
模型生成代码质量差、胡言乱语 提示词不清晰、温度参数过高、或模型本身能力有限 检查提示词是否明确，尝试降低 temperature 到 0.2 以下。 1. 优化提示词，提供更具体的上下文和约束。2. 尝试不同的模型。3. 对于代码任务，使用专门的代码模型（如 deepseek-coder , codellama ）。
服务运行正常，但外部机器无法访问 API Ollama 默认只绑定 127.0.0.1 (localhost) 查看服务绑定地址。 启动 Ollama 前设置环境变量： export OLLAMA_HOST=0.0.0.0:11434 (Linux/macOS) 或 set OLLAMA_HOST=0.0.0.0:11434 (Windows)。 注意：这将使服务暴露在网络上，请确保有防火墙保护。

9. 最佳实践与使用建议

为了让这套本地 AI 方案更稳定、高效地为你服务，遵循以下实践建议：

  1. 从“小”开始 ：首次部署，务必从参数量最小的模型（如 7B）开始测试。验证整个流程跑通后，再根据需求尝试更大的模型。
  2. 建立模型档案 ：为你测试过的模型建立简单文档，记录其特点、显存占用、擅长任务和不擅长任务。例如：“ deepseek-coder:6.7b-instruct ：代码生成能力强，Python 尤佳，显存占用约 5GB，不擅长文学创作。”
  3. 提示词工程是关键 ：本地模型的理解能力可能不如顶级商业模型。你的提示词需要更清晰、更结构化。多使用“角色扮演”（“你是一个资深 Python 工程师”）、提供示例（Few-shot）、明确输出格式（“请输出 JSON 格式”）。
  4. 实现优雅降级 ：在正式项目中，不要将所有 AI 功能强依赖于此本地服务。设计一个策略：优先调用本地 Ollama，如果失败或超时，再回退到商业 API（如 OpenAI）。这既能节约成本，又能保证核心功能可用。
  5. 做好日志与监控 ：使用类似 Better Stack 这样的监控平台（这也是你标题中提到的）。将 Ollama 服务的健康状态（端口是否可访问）、API 调用延迟、错误率、显存使用情况监控起来。当服务异常时能及时收到告警。
    • 简单监控示例 ：可以写一个定时脚本，调用 /api/tags 端点，如果失败则发送告警。
  6. 数据与模型管理 ：
    • 将模型文件（位于 ~/.ollama/models ）所在目录纳入你的备份计划。
    • 输入和输出数据，特别是包含敏感信息的，要进行加密或脱敏处理。
    • 定期清理不再使用的模型以释放磁盘空间： ollama rm <model-name:tag> 。
  7. 安全与合规底线 ：
    • 绝不 将本地模型用于生成恶意软件、钓鱼内容、虚假信息或侵犯他人版权的代码。
    • 谨慎 处理用户提供的输入，防止提示词注入攻击导致模型执行不当操作。
    • 如果服务需要暴露到公网（ 强烈不推荐 ），必须配置强密码认证、HTTPS 加密和严格的防火墙规则。Ollama 本身认证较弱，暴露公网风险极高。

10. 总结与下一步

通过 Ollama 在本地运行类 Claude 的代码模型，确实为开发者打开了一扇低成本、高可控性的 AI 应用之门。这套方案的核心优势在于其 极简的部署 和 与现有工具链良好的兼容性 （类 OpenAI API）。你最大的收获可能不是省下了多少 API 费用，而是获得了一个可以随时折腾、无限次调用的“AI 副驾驶”，这对于学习、原型验证和内部自动化来说价值巨大。

最先应该验证的功能 ：不是让它写一个完整的项目，而是测试它对你日常工作中最重复、最模板化的代码片段的生成能力，比如数据转换函数、简单的 CRUD 接口、单元测试用例、SQL 查询语句。这些是 ROI（投资回报率）最高的地方。

最容易踩的坑 ：一是硬件资源预估不足（特别是显存），二是对开源模型的能力期望过高。管理好预期，把它看作一个“能力不错的初级程序员”，而不是“资深架构师”。

后续可以探索的方向 ：

  1. 模型微调 ：如果你的领域非常垂直（如特定行业的代码规范），可以收集数据对开源模型进行轻量级微调（LoRA），让它更懂你的业务。
  2. 集成开发环境 ：将 Ollama API 接入 VS Code（使用 Continue、Tabnine 等插件）、JetBrains IDE 或 Vim/Emacs，打造沉浸式的本地 AI 编程助手。
  3. 构建自动化工作流 ：将本地模型作为 CI/CD 流水线的一环，用于自动生成文档、审查代码风格、甚至运行简单的测试。
  4. 探索更多模型 ：Ollama 的模型库在持续增长。除了代码模型，还有对话模型、多模态模型。可以尝试 llama3.2 、 qwen2.5 、 mistral 等，找到最适合你综合需求的“全能选手”。

成本降低 99% 的背后，是技术选择权和控制权的回归。现在，你可以开始你的本地 AI 之旅了。建议将本文中提供的安装命令、测试脚本和问题排查表格收藏备用，它们能帮你快速搭建和恢复这个强大的本地环境。

# Ollama
Logo
亚马逊云科技技术品牌专区

更多推荐

cover

DeepSeek API涨价500%！Agent框架同步开源

avatar 亚马逊云科技技术品牌专区
cover

DeepSeek 又放大招！开源 AI Agent 框架 Harness：一切皆插件

avatar 亚马逊云科技技术品牌专区
cover

Agent Run 的状态机：别把智能体交给 LLM 自己管

avatar 亚马逊云科技技术品牌专区