Qwen3.8-27B 是2026 年 8 月新出的开源模型，支持多模态，可识别图片视频。通过后训练比前代Qwen系列模型提升非常大，甚至在多项测试中超过了半年前的 Claude Opus 4.6 Max。4比特量化后，能达到FP16 原版95.59% 的能力，本次部署的是 Q4_K_M 版本，是社区验证过的甜点档位，质量和体积平衡最好，在 24GB 显存机器上即可流畅运行。

以下链接可以免实名注册并送算力点试用 GPU 服务器：

注册链接：https://growthdata.virtaicloud.com/t/xK

登陆后进入项目链接：

https://open.virtaicloud.com/web/project/detail/746800979148210176

点击右上角运行一下，确定克隆项目和数据到自己工作空间，点击立即运行，启动后点右上角进入开发环境。

[图片]

点击开发，启动和进入开发环境

[图片]

[图片]

进入JupyterLab 选项卡后，双击打开左侧的 项目说明.ipynb 文件，找到 “二、使用说明：” 下方的 !bash run_Qwen3.8_Q4.sh 这一行命令，点击选中后再点击上面的运行图标运行该命令行，即可启动服务界面：

[图片]

启动出现 llama_server: listening on http://0.0.0.0:8000 后，右侧添加一个 8000 的端口，打开右侧对应外部访问链接即可使用 llama.cpp 自带的WebUI 对话窗口测试

[图片]

文字对话效果：

[图片]

图片识别效果：

[图片]

视频理解效果：

[图片]

接入到龙虾应用里可以调用工具：

[图片]

24G显存运行速度也很快，已经可以应对很多日常的使用场景了。

[图片]

# 语言模型 # 计算机视觉
Logo
亚马逊云科技技术品牌专区

更多推荐

open-code-review Codex 插件教程：对话式调用评审技能指南

本文是一份面向新手的 **open-code-review Codex 插件教程**，教你在 Codex 中通过对话式方式调用 open-code-review 的 AI 代码评审技能。open-code-review 是阿里巴巴开源的 AI 代码评审工具，采用"确定性流水线 + LLM Agent"混合架构，内置多语言评审规则（NPE、线程安全、XSS、SQL 注入等），可在 Codex 里用一

avatar 亚马逊云科技技术品牌专区

OBS Studio 完整指南：免费开源录屏与直播软件从零上手

想做一场像模像样的直播，或者把屏幕内容录成教程视频，但一想到商用软件的订阅费就有些犹豫？其实你不需要花一分钱。OBS Studio 是一款免费开源的直播与录屏软件，支持 Windows、macOS 和 Linux，采集、混音、编码、推流、录制，一条流水线全包了。## 先搞清楚 OBS Studio 是什么OBS Studio 是一个"场景化"的采集合成工具：你把摄像头、窗口、浏览器、图片、

avatar 亚马逊云科技技术品牌专区

如何用MediaCrawler爬取小红书抖音数据？7大平台爬虫从安装到实战完整指南

MediaCrawler 是一个支持小红书、抖音、快手、B站、微博、百度贴吧、知乎的开源自媒体数据采集工具。它能按关键词、按帖子、按创作者主页三种方式抓取笔记/视频内容、评论甚至二级评论，并把结果存成 JSON、CSV、Excel 或数据库。适合做市场调研、竞品监控、内容选题的运营人员，以及想要现成爬虫框架而不想从零写 JS 逆向的开发者。## 从一次"手动抄数据"说起想象这个场景：你负责

avatar 亚马逊云科技技术品牌专区