深入解析 ROCm 7.x 新特性，看它如何加速大模型推理

本文深入解析 ROCm 7.x 新特性，揭示其如何通过 hipBLASLt 稀疏优化、HIP 编译器指令调度及 vLLM 异步执行流，显著提升大模型推理效率。实测显示长上下文场景延迟降低 20%，为高并发应用提供稳定高性能支持。

从零开始在 Instinct GPU 上部署 vLLM，避开环境配置那些坑

摘要 本文提供了一份在AMD ROCm环境下编译部署PyTorch的完整实战指南。主要内容包括：1)环境准备与权限配置，强调用户组设置和编译器版本检查；2)驱动验证与GPU架构识别，通过rocm-smi和rocminfo工具确认硬件状态；3)源码编译关键步骤，重点说明PYTORCH_ROCM_ARCH等环境变量设置；4)部署优化实践，介绍vLLM服务的显存调优和启动参数配置。文章针对ROCm平台的

我的第一台 AI PC，用 Strix Halo 搭建本地知识库全过程

本文详解基于 AMD Strix Halo 搭建本地知识库的全过程。利用其统一内存架构优势，结合 Ollama 与 RAG 技术，高效完成数据清洗、向量化及高并发推理测试。文章分享实战经验与优化策略，助您打造安全可控的私有 AI 智能中枢。