前言

在AI大模型火热的今天,很多人都想亲自体验部署和运行大模型,但高昂的GPU算力成本往往让人望而却步。腾讯云Cloud Studio提供了每月10000分钟的免费GPU算力(16G显存、8核32G配置),搭配Ollama工具,可以轻松实现大模型的云端部署。

本文将手把手带你完成:

  1. Cloud Studio中创建Ollama环境

  2. 部署大模型并测试

  3. Ollama基础指令大全

  4. 使用Chrome插件实现网页端对话

一、Cloud Studio简介

Cloud Studio是腾讯云推出的基于浏览器的云端集成开发环境(IDE),无需安装任何软件,打开浏览器即可使用。它提供了每月10000分钟的免费GPU时长,配置为16G显存、32G内存和8核CPU。

👉 免费体验地址:https://ide.cloud.tencent.com

二、创建Ollama工作空间

2.1 注册登录

打开Cloud Studio官网,使用微信或QQ扫码登录。

2.2 创建高性能工作空间

点击“高性能工作空间”右侧的“新建”按钮。在弹出的窗口中:

  • 空间名称:自定义,如“ollama-demo”

  • 应用模板:选择 “Ollama”

选择后等待系统创建完成,显示“运行中”状态后,点击图标跳转到IDE环境。

💡 提示:Cloud Studio选择Ollama模板后,系统会自动安装好Ollama环境,省去了手动安装的麻烦。

三、验证Ollama安装

进入IDE后,点击“终端”>“新建终端”,执行以下命令验证:

bash

ollama --version

如果看到版本号输出(如 ollama version 0.5.x),说明Ollama已就绪。

如果你的环境没有自动安装Ollama,也可以手动执行安装脚本:

bash

curl -fsSL https://ollama.com/install.sh | sh

⚠️ 注意:如果安装时报错缺少 zstd,先安装它:

bash

apt-get update && apt-get install -y zstd   # Ubuntu/Debian

四、部署大模型

4.1 拉取并运行模型

Ollama支持众多开源模型,如DeepSeek-R1、Llama、Qwen等。以下以DeepSeek-R1为例:

bash

# 拉取并运行 7B 模型(推荐,平衡性能与效果)
ollama run deepseek-r1:7b

# 或选择更小的 1.5B 模型(轻量快速)
ollama run deepseek-r1:1.5b

# 或 14B 模型(效果更好,但下载时间较长)
ollama run deepseek-r1:14b

首次运行会自动下载模型,等待下载完成即可进入交互对话模式。在对话中输入内容即可与模型交流,输入 /bye 退出。

💡 模型参数说明:模型名称中的“B”代表Billion(十亿),参数量越大,模型能力越强,但也会消耗更多计算资源。Cloud Studio免费GPU(16G显存)推荐选择7B或8B模型。

4.2 后台运行Ollama服务

默认情况下,ollama run 是前台运行。如果需要后台持续提供服务:

bash

# 启动Ollama服务(后台运行)
nohup ollama serve > /var/log/ollama.log 2>&1 &

# 查看服务状态
ps aux | grep ollama

服务默认监听 127.0.0.1:11434

五、Ollama基础指令大全

5.1 模型管理命令

命令说明示例
ollama pull <模型名>从远程仓库下载模型到本地ollama pull llama3.2
ollama list 或 ollama ls列出所有已下载的本地模型ollama list
ollama rm <模型名>删除本地模型,释放存储空间ollama rm llama3.2
ollama show <模型名>查看模型详细信息ollama show deepseek-r1:7b
ollama cp <源> <目标>复制模型创建副本ollama cp llama3.2 my-llama
ollama create <名称> -f <Modelfile>根据配置文件创建自定义模型ollama create my-model -f ./Modelfile

5.2 模型运行命令

命令说明示例
ollama serve启动Ollama API服务ollama serve
ollama run <模型名>运行模型,进入交互对话模式ollama run deepseek-r1:7b
ollama run <模型名> "<提示词>"一次性推理,直接输出结果ollama run llama3.2 "什么是AI?"
ollama stop <模型名>停止正在运行的模型ollama stop deepseek-r1:7b
ollama ps查看当前正在运行的模型列表ollama ps

5.3 其他辅助命令

命令说明
ollama --version 或 ollama -v查看版本信息
ollama --help查看所有命令帮助

5.4 进阶用法

多行输入:在交互模式中用三个双引号包裹多行文本:

bash

ollama run llama3.2 """
这是一个多行输入
模型会综合理解这些内容
"""

多模态模型(支持图像识别):

bash

ollama run llava "这张图片里有什么? /path/to/image.jpg"

将文件内容作为提示词

bash

ollama run llama3.2 "请总结这个文件:$(cat README.md)"

六、Chrome插件实现网页对话

在终端中使用模型虽然方便,但不够直观。我们可以通过Chrome浏览器插件 Ollama Client 实现图形化的网页对话界面。

6.1 安装Ollama Client插件

  1. 打开Chrome浏览器,访问Chrome应用商店

  2. 搜索 “Ollama Client”

  3. 点击“添加至Chrome”安装插件

或者直接访问插件链接:
https://chromewebstore.google.com/detail/ollama-client/bfaoaaogfcgomkjfbmfepbiijmciinjl

6.2 配置插件连接Ollama服务

安装完成后,按以下步骤配置:

  1. 确保Ollama服务已启动:在Cloud Studio终端中运行 ollama serve(确保服务正在运行)

  2. 点击浏览器右上角的插件图标,打开Ollama Client侧边栏

  3. 进入设置(Settings) ,找到Providers或连接配置

  4. 配置API地址:由于Ollama运行在Cloud Studio云端,需要填写Cloud Studio提供的外部访问地址

6.3 获取Cloud Studio的外部访问地址

Cloud Studio会自动为每个端口生成外部访问链接:

  1. 在Cloud Studio IDE界面,找到底部的 “端口” 面板

  2. 找到 11434 端口,点击右侧的“公开”或“预览”按钮

  3. 复制生成的访问链接,格式通常为:

    text

    https://<工作空间ID>-11434.<区域>.cloudstudio.club

6.4 完成插件配置

  1. 在Ollama Client的设置中,将API地址填写为上述Cloud Studio外部访问地址

  2. 点击 “连接测试” 或 “Test Connection” 验证是否连通

  3. 连接成功后,插件会自动拉取已部署的模型列表

  4. 选择一个模型(如 deepseek-r1:7b),即可开始对话

6.5 开始对话

配置完成后,你可以:

  • 点击浏览器右上角的插件图标,在侧边栏中直接与AI对话

  • 随时切换不同模型

  • 享受流式响应(逐字输出)的体验

🔒 隐私说明:Ollama Client是一个本地优先的插件,所有对话数据默认保存在本地,不会上传到云端。

七、常见问题与解决方案

Q1:Ollama服务启动后,外部无法访问?

Ollama默认只监听 127.0.0.1,需要设置环境变量让服务监听所有地址:

bash

export OLLAMA_HOST=0.0.0.0:11434
ollama serve

Q2:模型下载速度慢?

可以使用国内镜像或代理加速。如果下载中断,重新运行命令即可,之前的进度不会丢失。

Q3:Cloud Studio免费时长如何计算?

每月10000分钟免费额度,按实际使用时间扣减。用完记得关闭服务器,避免浪费额度。

Q4:插件提示“无法连接”?

检查以下几点:

  1. Cloud Studio端口是否已设置为“公开”

  2. API地址是否正确(注意是 https:// 还是 http://

  3. Ollama服务是否正在运行(ps aux | grep ollama

八、总结

通过本文的教程,你成功完成了:

  1. ✅ 在Cloud Studio中创建Ollama工作空间

  2. ✅ 部署并运行大语言模型

  3. ✅ 掌握Ollama常用命令

  4. ✅ 使用Chrome插件实现友好的网页对话界面

整个过程完全免费,无需本地GPU,只需一个浏览器即可拥有自己的云端AI助手。快去试试吧!🚀

更多推荐