一、项目简介

该项目旨在构建基于大模型的智能聊天机器人，利用其强大的自然语言处理和生成能力，为用户提供高效、精准、个性化的对话服务。

二、聊天机器人常见搭建方式

常见搭建方式主要有 3 类：

1. 使用无代码平台搭建（快速入门，但灵活性低）

2. 使用开源框架开发（定制化强，但开发成本高）

3. 基于大语言模型的集成（平衡灵活性与开发效率）

本课程核心方案：前端通过 Streamlit 等框架实现简洁易用的交互界面，后端基于 Ollama 平台进行模型部署和管理，确保系统的高效性和可扩展性。

三、技术栈详解

3.1 前端界面：Streamlit 框架

特点

使用 Streamlit 框架搭建用户界面，提供简洁、交互式的 Web 应用，适合快速验证功能和教学演示。

技术细节

• Streamlit 是基于 Python 的开源框架，专注于数据科学和机器学习领域的 Web 应用快速开发，无需前端知识即可上手。

• 核心功能：通过简单的 Python 代码创建输入框（接收用户提问）、发送按钮（触发对话）、对话展示区域（显示历史交互）。

• 交互流程：用户在网页输入问题 → 点击发送 → 前端将请求传递给后端 → 接收后端返回的模型回复 → 在页面实时展示。

3.2 后端模型：Ollama 平台的 Qwen/DeepSeek 模型/等

特点

基于 Ollama 平台部署 Qwen、DeepSeek 等模型作为后端核心，提供自然语言理解和对话生成能力，支持本地化部署，保障数据隐私。

技术细节

• Ollama：开源的 AI 模型部署工具，支持一键部署、管理多种大语言模型（LLM），简化模型运行流程。

• Qwen/DeepSeek：高性能开源语言模型，支持多轮对话、内容生成等任务，适合作为聊天机器人的核心引擎。

• 工作流程：后端服务接收前端用户输入 → 调用 Ollama 运行的模型进行处理 → 模型生成回复 → 后端将回复返回给前端。

四、为什么推荐使用 Ollama？

Ollama 作为开源轻量级工具，非常适合教学和开发场景，核心优势如下：

1. 开源免费：无商业授权限制，适合个人学习和企业内部部署。

2. 轻量易用：通过简单命令行操作即可完成模型下载、运行、管理，无需复杂配置。

3. 模型丰富：官方模型库（https://ollama.com/library）提供数十种主流大模型（如 Qwen、Llama、DeepSeek 等），支持按需下载。

4. 支持 API：提供标准化 API 接口，便于与前端（如 Streamlit）或其他系统集成开发。

5. 安全性高：模型本地部署，避免数据上传至第三方服务器，适合处理敏感信息。

五、Ollama 安装步骤

5.1 下载安装包

访问 Ollama 官方网站：https://ollama.com，根据操作系统（Windows/macOS/Linux）下载对应安装包。

提示：官网首页会自动识别系统，显示对应版本的下载按钮（如 Windows 系统显示 “Download for Windows”）。

5.2 安装过程

1. 双击下载的安装包，按照向导提示完成安装（默认路径即可，无需额外配置）。

2. 安装完成后，Ollama 会自动在后台启动服务。

5.3 验证安装

1. 按下Win + R组合键打开运行窗口，输入cmd并回车，打开命令提示符终端。

2. 在终端中输入以下命令，查看 Ollama 版本：

   ollama -v

3. 若输出类似ollama version 0.1.XX的信息，说明安装成功。

六、模型下载与管理

6.1 查找模型

访问 Ollama 官方模型库：https://ollama.com/library，搜索需要的模型（如qwen2.5、deepseek-chat等），查看模型名称和标签（如qwen2.5:7b表示 70 亿参数版本）。

6.2 下载并运行模型

以qwen2.5:7b模型为例：

1. 打开终端，输入以下命令：

   ollama run qwen2.5:7b

2. 首次运行会自动下载模型（根据网络速度，可能需要 10-30 分钟），下载完成后会直接进入交互式对话界面。

6.3 验证模型是否安装成功

在终端中输入以下命令，查看已安装的模型列表：

ollama list

若列表中包含qwen2.5:7b，说明模型下载成功。

七、Ollama 核心指令详解

指令	功能说明	示例
ollama run <模型名>	运行指定模型（首次运行自动下载）	ollama run deepseek-chat:6b
ollama show <模型名>	查看模型详细信息（如参数、描述等）	ollama show qwen2.5:7b
ollama ps	查看当前正在运行的模型进程	ollama ps
ollama pull <模型名>	单独下载模型（不运行）	ollama pull llama3:8b
ollama rm <模型名>	删除已安装的模型	ollama rm qwen2.5:7b

八、基础对话操作

当通过ollama run <模型名>启动模型后，会进入交互式对话界面：

1. 在终端中输入问题（如 “什么是 Ollama？”），按下回车。

2. 模型会自动生成回复并显示在终端中。

3. 如需退出对话，输入/exit并回车。

示例：

>>> 你好，介绍一下自己
我是基于Qwen2.5模型的AI助手，由Ollama部署运行，可以帮你解答问题哦~
>>> /exit

九、注意事项

1. 模型下载需要稳定的网络环境，建议在有线网络下操作。

2. 大模型（如 7B、13B 参数）对电脑配置有要求，至少需要 8GB 以上内存（推荐 16GB 及以上）。

3. 若终端提示 “端口被占用”，可重启电脑后重新尝试（Ollama 默认使用 11434 端口）。