Cloud Studio + Ollama:免费GPU部署大模型,浏览器插件实现网页对话
前言
在AI大模型火热的今天,很多人都想亲自体验部署和运行大模型,但高昂的GPU算力成本往往让人望而却步。腾讯云Cloud Studio提供了每月10000分钟的免费GPU算力(16G显存、8核32G配置),搭配Ollama工具,可以轻松实现大模型的云端部署。
本文将手把手带你完成:
-
Cloud Studio中创建Ollama环境
-
部署大模型并测试
-
Ollama基础指令大全
-
使用Chrome插件实现网页端对话
一、Cloud Studio简介
Cloud Studio是腾讯云推出的基于浏览器的云端集成开发环境(IDE),无需安装任何软件,打开浏览器即可使用。它提供了每月10000分钟的免费GPU时长,配置为16G显存、32G内存和8核CPU。
👉 免费体验地址:https://ide.cloud.tencent.com
二、创建Ollama工作空间
2.1 注册登录
打开Cloud Studio官网,使用微信或QQ扫码登录。
2.2 创建高性能工作空间
点击“高性能工作空间”右侧的“新建”按钮。在弹出的窗口中:
-
空间名称:自定义,如“ollama-demo”
-
应用模板:选择 “Ollama”
选择后等待系统创建完成,显示“运行中”状态后,点击图标跳转到IDE环境。
💡 提示:Cloud Studio选择Ollama模板后,系统会自动安装好Ollama环境,省去了手动安装的麻烦。
三、验证Ollama安装
进入IDE后,点击“终端”>“新建终端”,执行以下命令验证:
bash
ollama --version
如果看到版本号输出(如 ollama version 0.5.x),说明Ollama已就绪。
如果你的环境没有自动安装Ollama,也可以手动执行安装脚本:
bash
curl -fsSL https://ollama.com/install.sh | sh
⚠️ 注意:如果安装时报错缺少
zstd,先安装它:bash
apt-get update && apt-get install -y zstd # Ubuntu/Debian
四、部署大模型
4.1 拉取并运行模型
Ollama支持众多开源模型,如DeepSeek-R1、Llama、Qwen等。以下以DeepSeek-R1为例:
bash
# 拉取并运行 7B 模型(推荐,平衡性能与效果) ollama run deepseek-r1:7b # 或选择更小的 1.5B 模型(轻量快速) ollama run deepseek-r1:1.5b # 或 14B 模型(效果更好,但下载时间较长) ollama run deepseek-r1:14b
首次运行会自动下载模型,等待下载完成即可进入交互对话模式。在对话中输入内容即可与模型交流,输入 /bye 退出。
💡 模型参数说明:模型名称中的“B”代表Billion(十亿),参数量越大,模型能力越强,但也会消耗更多计算资源。Cloud Studio免费GPU(16G显存)推荐选择7B或8B模型。
4.2 后台运行Ollama服务
默认情况下,ollama run 是前台运行。如果需要后台持续提供服务:
bash
# 启动Ollama服务(后台运行) nohup ollama serve > /var/log/ollama.log 2>&1 & # 查看服务状态 ps aux | grep ollama
服务默认监听 127.0.0.1:11434。
五、Ollama基础指令大全
5.1 模型管理命令
| 命令 | 说明 | 示例 |
|---|---|---|
ollama pull <模型名> | 从远程仓库下载模型到本地 | ollama pull llama3.2 |
ollama list 或 ollama ls | 列出所有已下载的本地模型 | ollama list |
ollama rm <模型名> | 删除本地模型,释放存储空间 | ollama rm llama3.2 |
ollama show <模型名> | 查看模型详细信息 | ollama show deepseek-r1:7b |
ollama cp <源> <目标> | 复制模型创建副本 | ollama cp llama3.2 my-llama |
ollama create <名称> -f <Modelfile> | 根据配置文件创建自定义模型 | ollama create my-model -f ./Modelfile |
5.2 模型运行命令
| 命令 | 说明 | 示例 |
|---|---|---|
ollama serve | 启动Ollama API服务 | ollama serve |
ollama run <模型名> | 运行模型,进入交互对话模式 | ollama run deepseek-r1:7b |
ollama run <模型名> "<提示词>" | 一次性推理,直接输出结果 | ollama run llama3.2 "什么是AI?" |
ollama stop <模型名> | 停止正在运行的模型 | ollama stop deepseek-r1:7b |
ollama ps | 查看当前正在运行的模型列表 | ollama ps |
5.3 其他辅助命令
| 命令 | 说明 |
|---|---|
ollama --version 或 ollama -v | 查看版本信息 |
ollama --help | 查看所有命令帮助 |
5.4 进阶用法
多行输入:在交互模式中用三个双引号包裹多行文本:
bash
ollama run llama3.2 """ 这是一个多行输入 模型会综合理解这些内容 """
多模态模型(支持图像识别):
bash
ollama run llava "这张图片里有什么? /path/to/image.jpg"
将文件内容作为提示词:
bash
ollama run llama3.2 "请总结这个文件:$(cat README.md)"
六、Chrome插件实现网页对话
在终端中使用模型虽然方便,但不够直观。我们可以通过Chrome浏览器插件 Ollama Client 实现图形化的网页对话界面。
6.1 安装Ollama Client插件
-
打开Chrome浏览器,访问Chrome应用商店
-
搜索 “Ollama Client”
-
点击“添加至Chrome”安装插件
或者直接访问插件链接:
https://chromewebstore.google.com/detail/ollama-client/bfaoaaogfcgomkjfbmfepbiijmciinjl
6.2 配置插件连接Ollama服务
安装完成后,按以下步骤配置:
-
确保Ollama服务已启动:在Cloud Studio终端中运行
ollama serve(确保服务正在运行) -
点击浏览器右上角的插件图标,打开Ollama Client侧边栏
-
进入设置(Settings) ,找到Providers或连接配置
-
配置API地址:由于Ollama运行在Cloud Studio云端,需要填写Cloud Studio提供的外部访问地址
6.3 获取Cloud Studio的外部访问地址
Cloud Studio会自动为每个端口生成外部访问链接:
-
在Cloud Studio IDE界面,找到底部的 “端口” 面板
-
找到
11434端口,点击右侧的“公开”或“预览”按钮 -
复制生成的访问链接,格式通常为:
text
https://<工作空间ID>-11434.<区域>.cloudstudio.club
6.4 完成插件配置
-
在Ollama Client的设置中,将API地址填写为上述Cloud Studio外部访问地址
-
点击 “连接测试” 或 “Test Connection” 验证是否连通
-
连接成功后,插件会自动拉取已部署的模型列表
-
选择一个模型(如
deepseek-r1:7b),即可开始对话
6.5 开始对话
配置完成后,你可以:
-
点击浏览器右上角的插件图标,在侧边栏中直接与AI对话
-
随时切换不同模型
-
享受流式响应(逐字输出)的体验
🔒 隐私说明:Ollama Client是一个本地优先的插件,所有对话数据默认保存在本地,不会上传到云端。
七、常见问题与解决方案
Q1:Ollama服务启动后,外部无法访问?
Ollama默认只监听 127.0.0.1,需要设置环境变量让服务监听所有地址:
bash
export OLLAMA_HOST=0.0.0.0:11434 ollama serve
Q2:模型下载速度慢?
可以使用国内镜像或代理加速。如果下载中断,重新运行命令即可,之前的进度不会丢失。
Q3:Cloud Studio免费时长如何计算?
每月10000分钟免费额度,按实际使用时间扣减。用完记得关闭服务器,避免浪费额度。
Q4:插件提示“无法连接”?
检查以下几点:
-
Cloud Studio端口是否已设置为“公开”
-
API地址是否正确(注意是
https://还是http://) -
Ollama服务是否正在运行(
ps aux | grep ollama)
八、总结
通过本文的教程,你成功完成了:
-
✅ 在Cloud Studio中创建Ollama工作空间
-
✅ 部署并运行大语言模型
-
✅ 掌握Ollama常用命令
-
✅ 使用Chrome插件实现友好的网页对话界面
整个过程完全免费,无需本地GPU,只需一个浏览器即可拥有自己的云端AI助手。快去试试吧!🚀
更多推荐
所有评论(0)