1.下载Ollama

2.部署大模型

①查看已下载的模型列表
Ollama list
②下载本地模型（千问）
Ollama pull qwen2.5:7b

3.制作图形化界面

#安装
pip install gradio
pip install langchain_ollama

#创建python文件编写代码
import gradio as gr
from langchain_ollama import ChatOllama

# 连接你的本地模型
llm = ChatOllama(model="qwen2.5:7b", temperature=0.7)

# 定义聊天函数
def chat(message, history):
    response = llm.invoke(message)
    return response.content

# 创建网页聊天界面
gr.ChatInterface(
    fn=chat, 
    title="我的本地AI助手",
    description="基于 Qwen2.5:7b 本地模型"
).launch()

运行到这一步将会打开网页，这时候你就实现了一个小的ai助手，后续可以再优化更新定制成自己想要的ai助手。