logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Ollama 与 LM Studio 谁更适合 AMD 主机,实测对比见真章

本文实测对比 Ollama 与 LM Studio 在 AMD Strix Halo 主机的表现。针对 Ryzen AI Max+ 395 的 128GB 统一内存优势,推荐 LM Studio 作为 OpenClaw 部署首选。通过 Vulkan 后端优化与长上下文配置,实现高效本地大模型推理,打造私有化 AI 工作站。

#LM Studio
Ollama 对接 VS Code,打造私有化智能编程环境

本文详解如何利用 Ollama 与 VS Code 的 Continue 插件,在 AMD Strix Halo 平台打造私有化智能编程环境。通过本地部署大模型与 GPU 加速配置,实现代码隐私保护、离线高效开发及跨文件上下文理解,为开发者提供安全流畅的 AI 辅助 coding 体验。

#Ollama
大模型长文本推理显存不够用,ROCm 7.x 量化与重计算实战技巧

本文详解 ROCm 7.x 环境下大模型长文本推理的显存优化方案。通过 FP8 量化与激活值重计算实战技巧,有效解决 HIP out of memory 报错,在单卡资源有限时实现上下文翻倍,助力开发者低成本部署百亿参数模型。

PyTorch 模型迁移 Instinct GPU 实录,自定义算子兼容性问题怎么解

本文实录 PyTorch 模型迁移至 AMD Instinct GPU 的全过程,重点解决 ROCm 环境适配与自定义算子兼容难题。通过 Triton 重写算子替代 CUDA C++ 扩展,成功提升推理性能并确保精度,为开发者提供高效的 GPU 迁移实战指南。

Ollama 与 LM Studio 谁更适合 AMD 主机,实测对比见真章

本文实测对比 Ollama 与 LM Studio 在 AMD Strix Halo 主机的表现。针对 Ryzen AI Max+ 395 的 128GB 统一内存优势,推荐 LM Studio 作为 OpenClaw 部署首选。通过 Vulkan 后端优化与长上下文配置,实现高效本地大模型推理,打造私有化 AI 工作站。

#LM Studio
Strix Halo 笔记本跑大模型,Vulkan 才是 Windows 下的唯一解

本文深度解析 AMD Strix Halo 笔记本在 Windows 下运行大模型的最佳方案。实测证明 Vulkan 是唯一能稳定释放算力的后端,相比 ROCm 显著提升生成速度与显存利用率。文章提供 LM Studio 与 Ollama 的实战配置指南,助开发者避开驱动陷阱,高效部署本地 AI 应用。

#Strix Halo
不用 NVIDIA 也能玩大模型,DevCloud 上跑通 LLaMA-Factory 教程

本文详解如何在 DevCloud 云端利用 AMD GPU 运行 LLaMA-Factory,跳过繁琐驱动配置,快速实现大模型 LoRA 微调。通过优化存储 I/O 与 ROCm 环境设置,帮助开发者低成本高效完成训练,是无需 NVIDIA 也能玩转大模型的实用指南。

#LLaMA-Factory
拒绝非法指令错误,PyTorch 源码编译适配 AMD 显卡的正确姿势

本文详解 AMD 显卡运行 PyTorch 报“非法指令”的根源与解决方案。通过源码编译适配特定 GPU 架构,彻底解决预编译包兼容性问题。文章提供从环境搭建、架构识别到定制编译的完整指南,助开发者在 MI250/MI300X 上稳定进行大模型微调。

Ryzen AI 笔记本跑大模型,Ollama 一行命令搞定

本文详解如何在搭载 AMD Strix Halo 架构的 Ryzen AI 笔记本上,通过 Ollama 一行命令快速部署本地大模型。利用统一内存架构实现 Radeon GPU 自动加速,大幅提升代码生成与离线推理效率,同时确保数据隐私安全,打造高效私有 AI 工作站。

#Ollama
ROCm 环境搭建避坑指南,Conda 与 Docker 的选择建议

本文详解 AMD ROCm 环境搭建避坑指南,对比 Conda 与 Docker 部署优劣。针对 PyTorch 安装及环境变量配置提供实战建议,推荐生产环境使用 Docker 容器隔离依赖,确保大模型训练推理稳定高效,助开发者快速上手。

    共 122 条
  • 1
  • 2
  • 3
  • 13
  • 请选择