logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Strix Halo 笔记本跑大模型,Ollama 和 LM Studio 到底选哪个

本文深度解析 AMD Strix Halo 笔记本运行大模型的硬件优势,对比 Ollama 与 LM Studio 在 Windows 下的性能表现。重点推荐采用 Vulkan 后端以释放 Radeon GPU 算力,解决显存瓶颈,助开发者高效部署本地 AI 应用。

#Strix Halo
本地 Radeon 显卡跑大模型,Ollama 与 ROCm 适配笔记

本文详解在 Ubuntu 系统下利用 ROCm 驱动让 Ollama 适配本地 Radeon 显卡运行大模型的全流程。涵盖环境验证、环境变量配置及常见故障排查,成功实现 Llama3 等模型的高效 GPU 加速推理,为开发者提供高性价比的本地大模型部署方案。

#Ollama
Ollama 进阶玩法,手动编写 Modelfile 优化 Strix Halo 性能

本文详解 Ollama 进阶玩法,通过手动编写 Modelfile 优化 AMD Strix Halo 性能。针对默认配置限制,调整 num_ctx 与 num_gpu 参数,强制 GPU 加速并扩展上下文窗口,解决长文档处理瓶颈,充分释放大内存优势,打造高效本地 AI 工作流。

#Ollama#Strix Halo
锐龙 AI 实战,Ollama 配合 OpenClaw 打造自动化代理

本文详解如何在 AMD Ryzen AI Max+ 平台利用 Vulkan 后端部署本地大模型。通过配置 LM Studio 与 OpenClaw,打造零成本、数据不出域的自动化代理方案,解决敏感数据处理难题,实现高效安全的私有化 AI 应用。

本地电脑也能玩 AI,Ryzen AI 搭配 Ollama 快速上手教程

本文详解如何在本地电脑利用 Ryzen AI 处理器搭配 Ollama 快速部署大语言模型。通过配置 ROCm 驱动与环境变量,用户可在 AMD 硬件上流畅运行 Llama 3 等模型,无需昂贵显卡。文章涵盖命令行与图形化工具选择及避坑指南,助您轻松搭建私有 AI 工作站。

#Ollama
LLaMA-Factory 微调大模型,AMD 显卡上的低成本训练方案

本文详解在 AMD 显卡上利用 LLaMA-Factory 进行大模型微调的低成本方案。涵盖 ROCm 7.x 环境配置、BF16 精度优化及 DeepSpeed ZeRO-3 策略,助开发者高效完成大模型训练,突破显存限制,实现高性能 AI 部署。

#LLaMA-Factory
锐龙 AI 实战,Ollama 配合 OpenClaw 打造自动化代理

本文详解如何在 AMD Ryzen AI Max+ 平台利用 Vulkan 后端部署本地大模型。通过配置 LM Studio 与 OpenClaw,打造零成本、数据不出域的自动化代理方案,解决敏感数据处理难题,实现高效安全的私有化 AI 应用。

小白也能懂,AMD 端侧 AI 驱动安装与模型选型指南

本文详解 AMD 端侧 AI 驱动安装与模型选型指南。通过 AI Bundle 套件,小白也能轻松在笔记本部署本地大模型。文章涵盖驱动配置、Llama3 与 Qwen 模型选择及功耗优化技巧,助您实现数据私有的高效端侧 AI 应用。

告别显存焦虑,Ryzen AI 用 LM Studio 跑满血大模型

本文详解如何利用 AMD Ryzen AI Strix Halo 的 96GB 统一内存,在 Windows 端通过 LM Studio 的 Vulkan 后端流畅运行满血大模型。方案彻底解决显存焦虑,支持 128k 长上下文与本地私有化部署,让开发者在笔记本上即可体验高性能 AI 推理。

#LM Studio
从零搭建 ROCm 开发环境,解决依赖冲突的保姆级教程

本文提供从零搭建 ROCm 开发环境的保姆级教程,重点解决依赖冲突难题。通过 Docker 容器化与 Conda 虚拟环境构建纯净沙箱,规避 CUDA 干扰及段错误。文章分享实战 Dockerfile 与配置细节,助开发者快速掌握 AMD GPU 部署,高效开展深度学习任务。

    共 177 条
  • 1
  • 2
  • 3
  • 18
  • 请选择