logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

锐龙 AI 实战,Ollama 配合 OpenClaw 打造自动化代理

本文详解如何在 AMD Ryzen AI Max+ 平台利用 Vulkan 后端部署本地大模型。通过配置 LM Studio 与 OpenClaw,打造零成本、数据不出域的自动化代理方案,解决敏感数据处理难题,实现高效安全的私有化 AI 应用。

小白也能懂,AMD 端侧 AI 驱动安装与模型选型指南

本文详解 AMD 端侧 AI 驱动安装与模型选型指南。通过 AI Bundle 套件,小白也能轻松在笔记本部署本地大模型。文章涵盖驱动配置、Llama3 与 Qwen 模型选择及功耗优化技巧,助您实现数据私有的高效端侧 AI 应用。

AMD 笔记本跑大模型,Ollama 三步搞定本地部署

本文详解 AMD Ryzen AI 笔记本本地部署大模型流程。通过安装含 AI Bundle 的驱动,利用 Ollama 三步即可运行 Llama3。依托统一内存架构,实现高效推理与数据隐私保护,彻底打破 AMD 跑大模型难的刻板印象。

#Ollama
告别显存焦虑,Ryzen AI 用 LM Studio 跑满血大模型

本文详解如何利用 AMD Ryzen AI Strix Halo 的 96GB 统一内存,在 Windows 端通过 LM Studio 的 Vulkan 后端流畅运行满血大模型。方案彻底解决显存焦虑,支持 128k 长上下文与本地私有化部署,让开发者在笔记本上即可体验高性能 AI 推理。

#LM Studio
LLaMA-Factory 微调大模型在 ROCm 环境的配置实录

本文详解 LLaMA-Factory 在 ROCm 环境下微调大模型的配置实录。涵盖 PyTorch HIP 后端切换、DeepSpeed 适配及梯度爆炸应对策略,提供经过验证的 LoRA 微调启动脚本,助开发者高效利用 AMD GPU 完成模型训练。

#LLaMA-Factory
我的 ROCm 迁移错题本,汇总那些奇怪的编译与运行时错误

本文汇总 ROCm 迁移实战中的编译与运行时错误,涵盖头文件路径、链接器符号及 SGLang 后端配置等难题。通过解析 LLaMA-Factory 微调适配方案,助开发者解决 AMD 显卡部署痛点,高效完成从 CUDA 到 ROCm 的平滑迁移。

Strix Halo 笔记本跑大模型,LM Studio 这样配才不卡

本文详解 AMD Strix Halo 笔记本在 Windows 下运行大模型的优化方案。针对 LM Studio 配置,指出 Vulkan 后端是释放统一内存性能的关键。通过切换后端、设置 128k 上下文及调整环境变量,可解决卡顿问题,实现高效稳定的本地 AI 推理体验。

#Strix Halo#LM Studio
不用云服务器,我在咖啡馆用 Strix Halo 跑完了十万字小说分析

本文实测 AMD Strix Halo 架构笔记本,利用其统一内存优势,在离线环境下成功运行 Qwen2.5-14B 模型完成十万字小说分析。文章详解了长上下文配置技巧与隐私保护价值,展示了端侧 AI 处理复杂任务的强大能力,为本地大模型部署提供实战参考。

#Strix Halo
本地大模型总崩溃,可能是你的 BIOS 和量化等级没设对

针对 AMD Strix Halo 笔记本本地大模型崩溃问题,本文详解 BIOS 设置与量化等级优化方案。通过开启 Resizable BAR、调整显存分配及选用 Q5_K_M 量化版本,有效解决闪退与卡顿,助您打造稳定高效的私有 AI 工作站。

SGLang 结合 TileLang,打造 AMD 显卡上的极速推理引擎

本文详解 SGLang 结合 TileLang 打造 AMD 显卡极速推理引擎的方案。通过宏观调度与微观算子优化,解决显存碎片与延迟抖动问题。实测显示高并发下吞吐量显著提升,为生产环境部署大模型提供高效路径。

    共 210 条
  • 1
  • 2
  • 3
  • 21
  • 请选择