logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Strix Halo 笔记本跑大模型,Ollama 和 LM Studio 到底选哪个

本文深度解析 AMD Strix Halo 笔记本运行大模型的硬件优势,对比 Ollama 与 LM Studio 在 Windows 下的性能表现。重点推荐采用 Vulkan 后端以释放 Radeon GPU 算力,解决显存瓶颈,助开发者高效部署本地 AI 应用。

#Strix Halo
本地 Radeon 显卡跑大模型,Ollama 与 ROCm 适配笔记

本文详解在 Ubuntu 系统下利用 ROCm 驱动让 Ollama 适配本地 Radeon 显卡运行大模型的全流程。涵盖环境验证、环境变量配置及常见故障排查,成功实现 Llama3 等模型的高效 GPU 加速推理,为开发者提供高性价比的本地大模型部署方案。

#Ollama
Ollama 进阶玩法,手动编写 Modelfile 优化 Strix Halo 性能

本文详解 Ollama 进阶玩法,通过手动编写 Modelfile 优化 AMD Strix Halo 性能。针对默认配置限制,调整 num_ctx 与 num_gpu 参数,强制 GPU 加速并扩展上下文窗口,解决长文档处理瓶颈,充分释放大内存优势,打造高效本地 AI 工作流。

#Ollama#Strix Halo
锐龙 AI 实战,Ollama 配合 OpenClaw 打造自动化代理

本文详解如何在 AMD Ryzen AI Max+ 平台利用 Vulkan 后端部署本地大模型。通过配置 LM Studio 与 OpenClaw,打造零成本、数据不出域的自动化代理方案,解决敏感数据处理难题,实现高效安全的私有化 AI 应用。

手把手教你配 OpenClaw,把 Strix Halo 变成私有智能工作站

本文详解如何在 AMD Strix Halo 架构笔记本上,利用 LM Studio 与 OpenClaw 搭建私有智能工作站。通过配置 Vulkan 后端与 128k 上下文窗口,充分发挥统一内存优势,实现大模型本地高效推理与长文档处理,打造安全、离线的开发环境。

#Strix Halo#LM Studio
Ollama 在 AMD 新平台上跑不动,加行环境变量就能满血

针对 AMD Strix Halo 平台运行 Ollama 时 GPU 无法加速的问题,本文详解通过设置 HSA_OVERRIDE_GFX_VERSION 环境变量强制指定 GFX 11.0.3 架构的解决方案。该方法可激活 Radeon 核显算力,将大模型推理速度提升 8 倍,彻底解决 CPU 满载而 GPU 闲置的性能瓶颈。

#Ollama
LLaMA-Factory 微调实战,AMD 显卡训练全流程

本文详解 LLaMA-Factory 在 AMD 显卡上的微调实战全流程。涵盖 ROCm 环境搭建、PyTorch 源码编译及 DeepSpeed 分布式配置,解决显存优化与通信报错难题。验证了 AMD 平台训练大模型的稳定性与高精度,为开发者提供高性价比的 AI 训练方案。

#LLaMA-Factory
OpenClaw 对接教程,让本地大模型变身自动化智能代理

本文详解基于 AMD Strix Halo 架构的 OpenClaw 对接教程。通过选用 LM Studio 搭配 Vulkan 后端,解决驱动兼容难题,充分利用 128GB 统一内存优势。文章提供从环境配置到参数调优的完整指南,助开发者打造高效、私密的本地大模型自动化智能代理工作流。

LLaMA-Factory 适配新模型架构的简易教程

本文详解 LLaMA-Factory 适配新模型架构的简易教程。通过配置注册与加载桥接代码修改,解决 HybridMamba 等变体模型微调报错问题。掌握此方法可快速支持 Qwen 变种及社区新结构,助力开发者高效进行大语言模型训练与生态扩展。

#LLaMA-Factory
LLaMA-Factory 可视化界面在 ROCm 上的部署体验

本文详解 LLaMA-Factory 可视化界面在 ROCm 环境下的部署实战。针对 AMD 显卡用户,提供从驱动安装、PyTorch 配置到 WebUI 启动的全流程指南,并分享 LoRA 微调中的参数优化与常见问题解决方案,助力非代码开发者轻松上手大模型训练。

#LLaMA-Factory
    共 197 条
  • 1
  • 2
  • 3
  • 20
  • 请选择