logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Ollama 加 Ryzen AI 实战,本地跑大模型不再卡顿

本文详解如何在 AMD Ryzen AI 笔记本上利用 Ollama 实现大模型本地部署。通过配置环境变量唤醒 NPU 加速,显著提升推理速度并降低功耗,解决移动端运行卡顿痛点,让开发者在离线场景下也能流畅体验高效的大语言模型应用。

#Ollama
AMD Instinct MI300X 实战,大模型训练中的显存优化技巧

本文分享 AMD Instinct MI300X 实战经验,详解大模型训练中显存优化技巧。通过 ROCm 工具链定位内存泄漏,结合梯度检查点与动态 Batch Size 调整,成功解决 LLaMA-7B 训练 OOM 难题,释放硬件性能。

手把手教你用 vLLM 在 AMD GPU 上部署大模型,吞吐量提升实测

本文详解如何在 AMD GPU 上利用 vLLM 高效部署大模型。通过 Docker 快速启动、张量并行及 PagedAttention 显存优化,实测 MI300X 集群吞吐量提升近 20 倍。掌握此方案可低成本构建高可用 AI 推理服务,充分释放硬件性能。

#vLLM
LM Studio 插件推荐,扩展 AMD 本地大模型玩法

本文深度解析 LM Studio 插件在 AMD 本地大模型场景的应用。通过配置语音交互、联网搜索及代码渲染插件,充分释放锐龙 AI NPU 算力,打造隐私安全、功能强大的离线智能助手,显著提升本地 AI 生产力体验。

#LM Studio
Strix Halo 性能释放,本地大模型推理极限测试

本文深度测试 AMD Strix Halo 平台在本地大模型推理中的持续性能表现。通过 72 小时极限烤机,验证其在高温高负载下的稳定性与调度策略。结果显示,虽峰值性能略有衰减,但 Strix Halo 凭借统一内存架构与异构计算,提供了稳定可靠的算力基线,是移动端 AI 开发的理想选择。

#Strix Halo
不用买独显,锐龙 AI 集成显卡也能跑大模型

本文揭示锐龙 AI 轻薄本无需独显即可运行大模型。通过 Ollama 工具与量化技术,利用 NPU 和集显高效推理 Llama3、Qwen2.5 等模型。适合日常办公与文本创作,打破硬件门槛,提供安静低功耗的本地 AI 体验。

#Ollama
Strix Halo 遇上 LM Studio,大模型本地运行新体验

本文深度解析 AMD Strix Halo 平台凭借统一内存架构突破本地大模型运行瓶颈。结合 LM Studio 零门槛部署,实现在轻薄设备上流畅运行 Qwen-32B 等大参数模型,带来低延迟、高隐私的端侧 AI 新体验。

#Strix Halo#LM Studio
Strix Halo 多任务处理,边玩游戏边跑大模型

本文实测 AMD Strix Halo 平台在游戏与大模型并行场景下的表现。通过 NPU 异构计算与统一内存架构,实现边玩 3A 大作边本地推理 Llama-3 模型,帧率稳定且响应流畅,为端侧 AI 应用提供全新解决方案。

#Strix Halo
AMD Instinct GPU 大模型训练与推理实战指南

在深度学习工程落地的过程中,硬件选型与环境配置往往是第一道门槛。随着 AMD Instinct 系列加速卡在算力性价比上的优势逐渐凸显,越来越多的开发团队开始尝试从传统的 CUDA 生态迁移至 ROCm 开放软件平台。然而,面对全新的驱动架构、复杂的依赖关系以及特定的编译要求,许多开发者在初期搭建阶段便遭遇了诸如版本不匹配、库文件缺失或显存管理异常等棘手问题。这些问题若不能得到系统性解决,后续的大

#人工智能
LM Studio 图形化界面调用 AMD 显卡,小白也能玩转大模型

本文详解 LM Studio 图形化界面调用 AMD 显卡的实战指南。通过开启 ROCm 后端、优选 GGUF 量化模型及调优参数,助小白轻松本地运行大语言模型。告别复杂配置,让 A 卡用户也能高效体验 AI 创作与隐私保护。

#LM Studio
    共 77 条
  • 1
  • 2
  • 3
  • 8
  • 请选择