一、Ollama 简介

Ollama 是一款面向本地部署大语言模型的轻量化工具，支持 Windows、macOS、Linux 全平台，无需复杂环境配置，一条命令即可下载、运行各类开源大模型（通义千问 Qwen、Llama、CodeLlama 等）

对于网络安全学习者而言，可本地部署代码专用大模型，离线编写 POC、审计源码、调试渗透脚本，搭配 AI Agent、自动化攻防框架使用，隐私性更强、不受网络限制

二、前期准备

1. 系统要求：Windows 10 21H2 及以上 / Windows 11 全系版本
2. 硬件基础：
   • 最低：4G 内存（仅可运行 0.8B、1B 极小参数模型）
   • 推荐：8G 及以上内存，有 NVIDIA 独立显卡可开启 GPU 加速，推理速度提升数倍
3. 全程无需科学上网，配置国内镜像即可高速下载模型

三、下载并安装 Ollama 客户端

步骤 1：进入官方下载页面

打开浏览器访问 Ollama 官网：https://ollama.com/ 点击页面正中 Download Windows，自动下载 Windows 安装程序（.exe 格式）

步骤 2：静默安装软件

1. 双击下载好的 OllamaSetup.exe 安装包
2. 全程默认下一步（默认安装在 C 盘，无需修改路径）

安装中：

安装完成后，系统后台会自动启动 Ollama 后台服务，无需手动开启服务程序

步骤 3：验证安装是否成功

1. 快捷键 Win+R，输入 cmd 回车，打开命令提示符窗口；
2. 输入校验命令：

ollama --version

1. 若窗口输出版本号（如 ollama version 0.1.40），代表安装正常； 若提示 “不是内部或外部命令”：关闭所有 CMD 窗口重新打开，依旧报错则重启电脑即可

四、配置国内镜像（核心：解决模型下载缓慢、中断失败问题）

Ollama 默认海外源下载速度极慢，下载模型前必须配置中科大国内镜像加速：

1. 在 CMD 中执行下方环境变量设置命令：

set OLLAMA_REGISTRY=https://docker.mirrors.ustc.edu.cn

1. 注意事项：
   • 该命令仅对当前打开的 CMD 窗口生效，新开命令行下载模型需要重新输入一遍；
   • 永久镜像配置（可选，一劳永逸）：
     1. 此电脑右键→属性→高级系统设置→环境变量；
     2. 用户变量新建变量： 变量名：OLLAMA_REGISTRY 变量值：https://docker.mirrors.ustc.edu.cn
     3. 保存后重启 CMD，永久生效无需重复输入。

五、拉取下载开源大模型（以 Qwen3.5 系列为例）

Ollama 官方模型仓库：https://ollama.com/search 点开任意模型详情页，复制完整名称，使用 ollama pull 命令下载。

常用命令实操示例

1. 下载 0.8B 轻量通义千问（占用空间 1GB，低配电脑首选）

ollama pull qwen3.5:0.8b

执行后出现进度条等待下载至 100% 即完成

     2. 其他尺寸模型按需下载：

ollama pull qwen3.5:2b
ollama pull qwen3.5:4b

六、Ollama 日常核心使用命令汇总

1. 查看本地已下载全部模型

ollama list

2. 启动模型，进入交互式对话窗口

ollama run qwen3.5:0.8b

进入后可直接打字提问，编写代码、解读漏洞原理，输入 /bye 退出对话界面

3. 查看当前正在运行的模型进程

ollama ps

4. 停止正在运行的模型

ollama stop qwen3.5:0.8b

5. 删除本地不需要的模型（释放磁盘空间）

ollama rm qwen3.5:0.8b

把下面的内容编写为 ollama.bat 脚本，右键管理员方式运行

@echo off
taskkill /f /im ollama.exe >nul 2>&1
taskkill /f /im ollama-app.exe >nul 2>&1

:: 强制用 GPU + 关闭多余检查
set OLLAMA_CPU_ALLOW_FALLBACK=0
set OLLAMA_GPU=1
set OLLAMA_VULKAN=1
set OLLAMA_KEEP_ALIVE=24h

:: 重启服务
ollama serve
pause

Ollama 服务运行在

http://localhost:11434 

用这个命令确认：

netstat -an|findstr 11434

七、常见报错排错指南

1. 下载中途进度卡住、断连 关闭当前 CMD，重新设置镜像后再次执行 pull 命令，Ollama 支持断点续传，无需从头下载
2. 内存不足，运行模型卡顿闪退 切换更小参数模型（优先 0.8b），关闭电脑后台占用内存软件
3. NVIDIA 显卡无法加速 更新 NVIDIA 显卡驱动至最新版本，Ollama 会自动识别 GPU 启用硬件加速
4. 命令执行无响应 右键开始菜单，以管理员身份运行 CMD 重试