logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Ryzen AI 笔记本跑通本地 Agent,Ollama 配置避坑实录

本文详解 Ryzen AI 笔记本在 Windows 下部署本地 Agent 的实战技巧。通过强制 Vulkan 后端、对齐上下文窗口及配置 HSA_OVERRIDE_GFX_VERSION 环境变量,解决 ROCm 兼容性与 GPU 利用率低的问题,助开发者打造高效稳定的私有化 AI 平台。

#Ollama
AMD Instinct GPU 与 ROCm 7.x 大模型推理实战效果全景

在构建高性能 AI 推理服务的过程中,开发者常常面临硬件选型迷茫与软件栈适配复杂的双重挑战。尤其是当项目从单卡验证走向多卡集群部署时,如何确保算力线性增长、显存高效利用以及框架无缝迁移,直接决定了业务落地的成败。许多团队在引入新型加速卡时,往往耗费大量时间在环境配置和算子兼容性调试上,却忽略了架构层面的核心参数与软件特性的深度结合。对于专注于大模型落地的一线工程师而言,理解底层硬件的算力构成与上层

#服务器#网络#大数据
解锁 Vulkan 后端与超大上下文,释放端侧 AI 全部潜能

本文详解如何在 Ryzen AI Max+ 设备上通过 Vulkan 后端释放端侧 AI 潜能,解决 GPU 调用难题。结合 128GB 统一内存优势,突破 128k 超大上下文瓶颈,并演示 OpenClaw 自动化工作流配置。助开发者打造高效、安全的本地大模型应用,实现数据物理隔绝与流畅推理。

从零搭建 ROCm 环境,三步跑通你的第一个 AI 模型

本文详解从零搭建 ROCm 环境的全流程,涵盖硬件兼容性核查、核心组件安装及 PyTorch 推理验证。通过三步实战指南,助开发者快速在 AMD GPU 上跑通第一个 AI 模型,释放本地算力潜能。

Instinct GPU 部署 vLLM 实战指南

在本地或云端部署大语言模型推理服务时,硬件兼容性与软件环境的匹配往往是第一道门槛。特别是当我们将目光投向 AMD Instinct 系列 GPU 搭配 ROCm 生态时,虽然开源社区的热情高涨,但实际落地过程中常因驱动版本、容器环境或参数配置的细微差异导致服务无法启动。很多开发者在尝试复现 vLLM 的高性能推理能力时,容易卡在依赖冲突或显存分配不均的问题上,不仅浪费了宝贵的算力资源,也打击了进一

AMD 显卡跑大模型,ROCm 7.x 加 vLLM 的避坑实录

本文详解 AMD 显卡部署大模型实战,聚焦 ROCm 7.x 与 vLLM 的避坑指南。涵盖 Ubuntu 环境配置、PyTorch 源码编译及显存碎片化调优,通过调整 block-size 与 FP8 量化解决 OOM 难题,助开发者高效构建稳定推理服务。

#vLLM
Windows 跑大模型别死磕 ROCm,Vulkan 才是 AMD 显卡的稳赢解

本文详解 Windows 下 AMD 显卡运行大模型的最优解:放弃不稳定的 ROCm,转而使用 Vulkan 后端。通过 LM Studio 配置 Vulkan 加速与 128k 长上下文,结合 Strix Halo 统一内存优势,实现推理速度提升 8 倍及静音体验,是本地 AI 部署的高效方案。

AMD Instinct GPU 跑大模型,DevCloud 环境搭建避坑实录

本文详解在 DevCloud 搭建 AMD Instinct GPU 环境跑大模型的避坑指南。涵盖权限配置、ROCm 驱动验证及 PyTorch 源码编译关键步骤,重点解析架构代码匹配与 vLLM 部署技巧,助开发者高效构建稳定推理环境。

#vLLM
拒绝非法指令错误,PyTorch 源码编译适配 ROCm 7.x 指南

本文详解 PyTorch 源码编译适配 ROCm 7.x 指南,重点解决 Illegal instruction 错误。通过精准设置 PYTORCH_ROCM_ARCH 架构代码、优化编译器选型及配置 Triton 依赖,确保 AMD Instinct GPU 环境稳定运行,助力开发者高效构建高性能推理平台。

从驱动到服务,DevCloud 上 ROCm 7.x 全链路部署复盘

本文复盘 DevCloud 上 ROCm 7.x 全链路部署,涵盖系统选型、权限配置、驱动验证及 PyTorch 源码编译。通过标准化流程解决依赖冲突,优化 vLLM 服务参数,助力开发者高效构建 AMD GPU 推理环境。

    共 94 条
  • 1
  • 2
  • 3
  • 10
  • 请选择