【30分钟Mac部署本地AI大模型】
·
本地部署 Qwen 7B / 14B 完整方案
适用于:
- IntelliJ IDEA AI 编码
- 本地 ChatGPT
- Java / SpringBoot 开发辅助
- 完全免费
- 完全本地运行
- 快速高效完成工作,大幅度减少加班概率。
推荐组合:
Ollama
+
Chatbox
+
Qwen2.5-Coder
一、最终效果(你会得到什么)
部署完成后,你可以:
✅ 本地 AI 聊天
✅ Java 代码生成
✅ SpringBoot 辅助
✅ SQL 优化
✅ IDEA AI 编码
✅ 模型自由切换(7B / 14B)
✅ 完全离线
✅ 不花钱
二、你的电脑配置(完全够用)✅
推荐最低配置:
| 项目 | 情况 |
|---|---|
| 芯片 | M4 Pro |
| 内存 | 24G |
| 系统 | macOS |
三、整体架构(非常简单)
Chatbox(图形界面)
↓
Ollama(模型管理)
↓
Qwen2.5-Coder(AI模型)
四、第一步:安装 Ollama
方式1(推荐,最简单)
官网下载:
下载安装即可。
验证安装
打开终端:
ollama -v
如果显示版本号:
ollama version is ...
说明成功。
五、第二步:下载并运行 Qwen 模型
1. 下载 Qwen 7B(推荐先装)
终端执行:
ollama run qwen2.5-coder:7b
第一次会:
- 自动下载模型
- 大约 5GB
- 需要几分钟
下载完成后:
会直接进入聊天界面。
2. 下载 Qwen 14B(后续再装)
执行:
ollama run qwen2.5-coder:14b
第一次:
- 下载约 9~10GB
- 稍慢
六、第三步:查看本地模型
执行:
ollama list
你会看到:
NAME
qwen2.5-coder:7b
qwen2.5-coder:14b
七、第四步:安装 Chatbox(图形界面)
官网:
下载安装 Mac 版本。
八、第五步:连接 Ollama
打开 Chatbox:
配置步骤
1. 设置模型提供商
选择:
Ollama API
2. API 地址
填写:
http://localhost:11434
3. 获取模型
点击:
Get Models
会自动识别:
qwen2.5-coder:7b
qwen2.5-coder:14b
九、第六步:开始使用 🎉
现在你已经拥有:
本地 AI 工作站
了。
你可以直接问:
Java 开发
帮我生成 SpringBoot + MyBatisPlus CRUD
SQL 优化
帮我优化这个 SQL
并发问题
解释这个线程池为什么会阻塞
十、7B 与 14B 的推荐使用方式 ⭐
| 模型 | 推荐场景 |
|---|---|
| 7B | 日常开发 |
| 14B | 深度分析 |
推荐工作流(重要)
日常:
使用:
7B
优点:
✅ 快
✅ 省资源
✅ 回答速度舒服
复杂问题:
切换:
14B
适合:
- Spring源码
- JVM
- SQL优化
- 架构分析
十一、模型管理(非常重要)
查看正在运行的模型
ollama ps
停止某个模型
ollama stop qwen2.5-coder:14b
删除模型
ollama rm qwen2.5-coder:14b
十二、资源占用(适合你的机器)
| 模型 | 内存占用 | 推荐度 |
|---|---|---|
| 7B | 6~8G | ⭐⭐⭐⭐⭐ |
| 14B | 12~16G | ⭐⭐⭐⭐ |
推荐策略 ⭐⭐⭐⭐⭐
常驻:
7B
临时使用:
14B
这是你这台 Mac 最舒服的方案。
十三、后续推荐(可选)
后面你还可以接入:
| 工具 | 作用 |
|---|---|
| Continue | IDEA AI 编码 |
| Supermaven | AI 自动补全 |
| Open WebUI | 本地知识库 |
十四、最终结论 ⭐⭐⭐⭐⭐
Ollama
+
Chatbox
+
Qwen2.5-Coder 7B
更多推荐

所有评论(0)