logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

锐龙 AI 能效比实测,Ollama 挂机一整晚耗电多少

本文实测锐龙 AI 笔记本在纯电池模式下运行 Ollama 的能效表现。结果显示,借助 NPU 加速,挂机一整晚耗电仅约 28%,且低温静音。文章验证了本地大模型在移动办公中的低功耗优势,为出差党提供隐私安全与长续航的 AI 应用新方案。

#Ollama
Ollama 模型量化详解,锐龙 AI 用户如何选择版本

本文详解 Ollama 模型量化技术,专为 AMD 锐龙 AI 用户提供选型指南。针对 16GB 与 32GB 内存场景,分析 Q4、Q8 等版本差异,助您在有限资源下平衡速度与精度,解决本地大模型运行卡顿问题,释放端侧 AI 潜能。

#Ollama
Ollama 加 Ryzen AI 实战,本地跑大模型不再卡顿

本文详解如何在 AMD Ryzen AI 笔记本上利用 Ollama 实现大模型本地部署。通过配置环境变量唤醒 NPU 加速,显著提升推理速度并降低功耗,解决移动端运行卡顿痛点,让开发者在离线场景下也能流畅体验高效的大语言模型应用。

#Ollama
AMD Instinct MI300X 实战,大模型训练中的显存优化技巧

本文分享 AMD Instinct MI300X 实战经验,详解大模型训练中显存优化技巧。通过 ROCm 工具链定位内存泄漏,结合梯度检查点与动态 Batch Size 调整,成功解决 LLaMA-7B 训练 OOM 难题,释放硬件性能。

手把手教你用 vLLM 在 AMD GPU 上部署大模型,吞吐量提升实测

本文详解如何在 AMD GPU 上利用 vLLM 高效部署大模型。通过 Docker 快速启动、张量并行及 PagedAttention 显存优化,实测 MI300X 集群吞吐量提升近 20 倍。掌握此方案可低成本构建高可用 AI 推理服务,充分释放硬件性能。

#vLLM
LM Studio 插件推荐,扩展 AMD 本地大模型玩法

本文深度解析 LM Studio 插件在 AMD 本地大模型场景的应用。通过配置语音交互、联网搜索及代码渲染插件,充分释放锐龙 AI NPU 算力,打造隐私安全、功能强大的离线智能助手,显著提升本地 AI 生产力体验。

#LM Studio
Strix Halo 性能释放,本地大模型推理极限测试

本文深度测试 AMD Strix Halo 平台在本地大模型推理中的持续性能表现。通过 72 小时极限烤机,验证其在高温高负载下的稳定性与调度策略。结果显示,虽峰值性能略有衰减,但 Strix Halo 凭借统一内存架构与异构计算,提供了稳定可靠的算力基线,是移动端 AI 开发的理想选择。

#Strix Halo
不用买独显,锐龙 AI 集成显卡也能跑大模型

本文揭示锐龙 AI 轻薄本无需独显即可运行大模型。通过 Ollama 工具与量化技术,利用 NPU 和集显高效推理 Llama3、Qwen2.5 等模型。适合日常办公与文本创作,打破硬件门槛,提供安静低功耗的本地 AI 体验。

#Ollama
Strix Halo 遇上 LM Studio,大模型本地运行新体验

本文深度解析 AMD Strix Halo 平台凭借统一内存架构突破本地大模型运行瓶颈。结合 LM Studio 零门槛部署,实现在轻薄设备上流畅运行 Qwen-32B 等大参数模型,带来低延迟、高隐私的端侧 AI 新体验。

#Strix Halo#LM Studio
Strix Halo 多任务处理,边玩游戏边跑大模型

本文实测 AMD Strix Halo 平台在游戏与大模型并行场景下的表现。通过 NPU 异构计算与统一内存架构,实现边玩 3A 大作边本地推理 Llama-3 模型,帧率稳定且响应流畅,为端侧 AI 应用提供全新解决方案。

#Strix Halo
    共 79 条
  • 1
  • 2
  • 3
  • 8
  • 请选择