GPU标签_AMD开发者中国社区

GPU

AMD Instinct 多租户隔离：这 3 种进程级分割为何在 K8s 节点失效

在 AMD Instinct GPU 上部署多租户模型服务时，K8s 默认的进程级隔离会出现显存竞争与计算抢占问题。本文通过实测 ROCm 5.6 环境下的隔离方案，揭示 PCIe 通道竞争、缓存污染等边界条件，给出包含内核参数调优、硬件校验在内的加固清单，并通过性能对比表展示不同虚拟化方案的取舍，帮助 AI 工程团队控制故障爆炸半径。

weixin_47315004
2026-08-01 09:10:02

 140

 8

#GPU
从游戏卡到计算卡：为什么你的RTX 4090在AI画图时，算力可能“跑不满”？聊聊FP32/FP64那些事

本文深入解析了RTX 4090在AI画图时算力无法跑满的原因，重点探讨了FP32与FP64浮点运算精度的硬件设计差异。通过对比游戏显卡与专业计算卡的架构特点，揭示了NVIDIA在算力分配上的策略，并提供了优化GPU性能的实用技巧，帮助用户最大化利用RTX 4090的AI计算潜力。

美洲狮梅西
2026-06-11 12:02:05

 366

 7

#GPU
游戏闪退？可能是Vulkan的锅！手把手教你排查Windows双显卡（独显+核显）的Vulkan支持与切换问题

本文详细解析了Windows双显卡（独显+核显）设备在运行Vulkan游戏时常见的闪退问题，提供了从诊断到解决的全套方案。通过Vulkan硬件检查工具、显卡驱动更新、系统设置调整等方法，帮助玩家确保游戏正确调用独立显卡运行Vulkan应用，提升游戏性能和稳定性。

DA EE
2026-06-02 10:25:51

 448

 5

#GPU
【楠】双 RTX 5090 工作站从零部署 Isaac Sim 6.0 与 Isaac Lab 全记录(含踩坑实录)

摘要本文记录了在双RTX 5090工作站上部署NVIDIA Isaac Sim 6.0和Isaac Lab的全过程，重点解决了新硬件环境下的兼容性问题。主要步骤包括：确认硬件配置满足要求，特别注意Blackwell架构对CUDA 13+的需求创建独立的Python 3.12环境（官方要求）安装Isaac Sim 6.0时遇到并解决了--prerelease参数问题验证PyTorch cu

Mark Zero
2026-06-02 23:12:09

 907

 21

#人工智能 #GPU
TileLang 调试经验谈，定位内核性能瓶颈的三个方法

本文分享 TileLang 在 AMD GPU 上的调试经验，利用 rocprof 精准定位内核性能瓶颈。通过动态分块、消除线程束发散及流水线重叠三大方法，有效解决内存墙与计算延迟问题，助力开发者实现大模型算子的高效优化。

2600_96323217
2026-06-24 10:14:00

 24

#TileLang #性能优化 #GPU
【vLLM 学习】Prithvi Geospatial Mae

vLLM 是一款专为大语言模型推理加速而设计的框架，实现了 KV 缓存内存几乎零浪费，解决了内存管理瓶颈问题。更多 vLLM 中文文档及教程可访问 →。

HyperAI超神经
2025-12-17 17:10:29

 642

 4

#学习 #人工智能 #python +2
VLLM历次会议(2024.6)

NCCL和custom allreduce(应该就是指one-shot和two-shot以及half-bufferfly那些，小数据量通信情况下，降低延迟用的）原理就是新到request的prefill，不阻塞正在decode的request。和continous batching一起使用时，为什么加速比和qps有关？qps上来以后，延迟能有明显的优化。

smartcat2010
2025-02-13 00:29:53

 341

 2

#GPU
AMD GPU，将实施开源计划

AMD 表示，它有望在 5 月底发布其微引擎调度程序 (MES) 文档，随后发布源代码。然后，它将继续以开源方式发布 Radeon 堆栈的其他部分。该声明似乎是为了回应Tiny Corp 的 Tweet/X，该公司几个月来一直在社交媒体上公开与 AMD 通信（并经常批评）。

迪普微社区
2024-04-26 10:00:00

 266

#开源 #业界资讯 #GPU
AMD GPU 的 Context Roll机制

Context Roll 是AMD GPU 流水线状态更新的核心机制，本文基于AMD官方文档、开源驱动代码（PAL）以及Radeon GPU Profiler 工具的使用，探讨以下三个问题：硬件是如何实现低开销的流水线状态切换的？寄存器组的消耗在哪些场景会造成性能瓶颈？RGPcontext roll栏目对开发者有什么帮助？

颜早早
2025-02-25 22:00:24

 1386

 8

#GPU #图形渲染
从Linux内核视角看AMD Radeon显卡驱动：DRM框架下的radeon_driver_load_kms函数详解

本文深入解析了Linux DRM框架下AMD Radeon显卡驱动的初始化机制，重点剖析了radeon_driver_load_kms函数的实现细节。通过源码分析，详细介绍了从PCI设备探测到KMS初始化的完整流程，包括GPU硬件初始化、显示子系统设置以及错误处理机制，为内核开发者和图形系统研究者提供了宝贵的技术参考。

weixin_30435261
2026-06-04 09:45:15

 407

 9

#GPU
Linux内核里Radeon显卡驱动是如何“活”起来的？从drm_get_pci_dev到radeon_driver_load_kms的完整流程解析

本文深入解析了Linux内核中Radeon显卡驱动的初始化流程，从PCI设备探测到DRM核心加载，详细介绍了drm_get_pci_dev和radeon_driver_load_kms的关键步骤。通过源码分析，揭示了Radeon驱动如何与GPU硬件交互，为开发者提供了宝贵的调试和优化经验。

weixin_30732487
2026-06-04 14:25:30

 326

 8

#GPU
radeon_fence文件源码分析

radeon_fence文件源码分析/*** radeon_fence_driver_init - init the fence driver* for all possible rings.** @rdev: radeon device pointer** Init the fence driver for all possible rings (all asics).* Not all asi

蓝天居士
2022-10-25 18:23:33

 299

 1

#GPU
AMD或将为移动设备生产GPU

AMD并没有完全抛弃移动市场。AMD Radeon科技组的VP兼首席架构师Raja Koduri说，公司的Radeon生产线开始生产移动设备的图形处理器，但是并不广泛。AMD可能只作为合作方之一或者遵守许可协议来生产GPU，并没有发布完整产品的计划。Koduri这周说。AMD的主要业务是为PC和嵌入式设备生产GPU。2009年，也和Qualcomm合作生产过移动设备的GPU，叫做Adreno，..

钱曙光
2016-03-21 08:41:19

 197

#GPU
【vLLM 学习】使用 Neuron 安装

vLLM 是一款专为大语言模型推理加速而设计的框架，实现了 KV 缓存内存几乎零浪费，解决了内存管理瓶颈问题。更多 vLLM 中文文档及教程可访问 →从 vLLM 0.3.3 版本起，支持在带有 Neuron SDK 的 AWS Trainium/Inferentia 上进行模型推理和服务。目前 Neuron SDK 不支持分页注意力 (Paged Attention)，但 Transformer

HyperAI超神经
2025-02-28 15:47:38

 939

 18

#vLLM #开源 #人工智能 +3
【vLLM 学习】使用 OpenVINO 安装

vLLM 是一款专为大语言模型推理加速而设计的框架，实现了 KV 缓存内存几乎零浪费，解决了内存管理瓶颈问题。更多 vLLM 中文文档及教程可访问 →由 OpenVINO 驱动的 vLLM 支持来自 vLLM 支持的模型列表 <…/models/supported_models> 中的所有 LLM 模型，并且可以在所有 x86-64 CPU 上（至少需要 AVX2 支持）进行最佳的模型服务。

HyperAI超神经
2025-01-24 15:53:09

 1236

 3

#openvino #人工智能 #python +2
[250309] AMD 发布 Instella：全新 SOTA 全开源 30 亿参数语言模型 | 上海交大发布 AI 教育教学规范

- AMD 发布 Instella：全新 SOTA 全开源 30 亿参数语言模型- 上海交大发布 AI 教育教学规范，引领高校 AI 治理新方向

 edwinjhlee
2025-03-09 07:30:00

 758

 16

#人工智能 #开源 #语言模型 +1
AMD 在 GPU 计算方面给 Nvidia 带来了巨大压力

如果说地球上有哪个市场迫切需要激烈的竞争，那就是推动人工智能革命的数据中心 GPU 市场。

网络研究观
2024-10-14 00:00:00

 2266

 30

#人工智能 #GPU
Windows 平台 Ollama AMD GPU 一键编译指南：基于 ROCm 7.1 的自动化实战

本文介绍了在Windows平台上使用ROCm 7.1自动化编译Ollama AMD GPU版本的全流程。相较于早期手动编译的复杂操作，新方案通过一键脚本实现了高效构建，支持RDNA 3.5等新架构。文章详细解析了硬件兼容性检查、环境依赖配置、脚本参数说明及底层编译原理，并提供了手动调试指南。该方案显著提升了编译效率，特别针对RX 7000系列显卡进行了优化，使Windows用户能够便捷地部署AMD

haolove527
2026-06-14 15:32:39

 492

 6

#windows #自动化 #stm32 +2
用AMD显卡跑PyTorch：ROCm 7.2环境搭建与实战踩坑指南

如果你手头有 AMD 显卡，不妨试试，`torch.cuda.*` 的代码一行都不用改。其实 AMD 的 ROCm（Radeon Open Compute）生态在过去两年进步巨大——PyTorch 2.x 已经原生支持 ROCm，`torch.cuda.*` 的代码不用改就能在 AMD 显卡上跑。**2. `hipErrorOutOfMemory` 错误**——设置 `PYTORCH_ALLOC_

Wy1306
2026-06-09 13:55:40

 453

 9

#GPU
GPU Direct RDMA调研

贯穿整个GDR技术演进的核心挑战始终如一：如何安全、高效地将应用程序层面使用的GPU虚拟地址，转换为一组RDMA网卡DMA引擎能够理解并直接使用的物理地址（或总线地址）。无论的回调机制，还是dma-buf的操作，本质上都是在解决这一关键的地址翻译问题，因此，GPU驱动中如何高效组织和管理进程使用设备内存是需要好好考量的要点。

caodongwang
2026-05-28 17:40:35

 609

 9

#GPU
【vLLM 学习】调试技巧

vLLM 是一款专为大语言模型推理加速而设计的框架，实现了 KV 缓存内存几乎零浪费，解决了内存管理瓶颈问题。更多 vLLM 中文文档及教程可访问 →。

HyperAI超神经
2025-04-03 20:26:49

 2698

 22

#学习 #人工智能 #深度学习 +1
vLLM是否支持异构GPU混合部署？显卡型号兼容性说明

vLLM虽支持多GPU并行，但对异构混合部署支持有限，仅推荐在同架构、同厂商的NVIDIA显卡上运行。跨代际或跨厂商组合易导致兼容问题和性能下降，生产环境应优先选择A100/H100等数据中心级GPU以确保稳定性。

任我心意
2025-11-25 10:48:39

 1424

 5

#GPU
Linux内核里Radeon显卡驱动是如何“活”起来的？从drm_get_pci_dev到radeon_driver_load_kms的完整流程解析

本文深入解析了Linux内核中Radeon显卡驱动的初始化流程，从硬件识别到驱动加载的完整过程。详细介绍了从drm_get_pci_dev到radeon_driver_load_kms的关键步骤，包括PCI设备匹配、DRM框架介入、Radeon专属初始化等核心环节，帮助开发者理解GPU驱动的工作原理和调试方法。

为了晴子
2026-05-26 15:20:03

 226

 10

#GPU
Linux内核里Radeon显卡驱动是如何“活”起来的？从drm_get_pci_dev到radeon_driver_load_kms的完整启动流程解析

本文深入解析了Linux内核中Radeon显卡驱动的完整启动流程，从PCI设备探测到DRM框架加载，再到KMS初始化。通过源码分析，详细介绍了drm_get_pci_dev和radeon_driver_load_kms等关键函数的实现机制，帮助开发者理解Radeon GPU在Linux系统中的初始化过程及其核心数据结构。

ki-pi
2026-05-26 11:00:37

 355

 7

#GPU
VLLM性能调优

减少max_num_seqs或max_num_batched_tokens。减少一个batch里的请求、token个数，从而减少KV cache占用。显存不够的时候，某些request会被抢占。其KV cache被清除，腾退给其他request，下次调度到它，重新计算KV cache。可以查看VLLM自带的Prometheus指标，查看抢占的请求数量。- 增大gpu_memory_utilizat

smartcat2010
2025-01-30 21:40:40

 1842

 4

#GPU
Radeon GPU Profiler的API Shader Stage Control 用法

API Shader Stage Control

颜早早
2025-01-22 11:41:22

 155

#图形渲染 #GPU
linux内核radeon gpu源码解析4 —— drm_get_pci_dev函数详解1

上一篇讲到了drm_get_pci_dev函数，这是一个比较关键的函数，其中调用了几个函数，现在一一进行详细说明。先说第1个函数：drm_dev_alloc。调用处：dev = drm_dev_alloc(driver, &pdev->dev);源码如下：drivers/gpu/drm/drm_drv.c/*** drm_dev_alloc - Allocate new DRM de

蓝天居士
2021-02-19 14:41:41

 1624

#GPU
Radeon GPU Profiler的Events Windows用法（一）

radeon gpu profiler 的用法，本文翻译 EventWindow 的第一部分（非机翻）AMD-RGP 的Events Windows 一共有五个部分（Wavefront occupancy、Event timing、The anatomy of an event、Pipeline state、Instruction timing），本文翻译前三部分。

颜早早
2024-05-14 09:11:11

 866

 1

#GPU
龙芯桥片与GPU技术演进：从短板到高性能IO与图形生态构建

在计算机体系结构中，桥片（Southbridge/Northbridge）与图形处理单元（GPU）是连接CPU与外部设备、实现高效数据交换和图形渲染的关键组件。其核心原理在于通过高速互连总线（如PCIe、HT）和专用控制器，管理内存、存储、网络及显示输出。这一技术体系的价值在于决定了整机系统的扩展性、兼容性与用户体验，是构建桌面、服务器及嵌入式解决方案的基础。随着自主可控需求的提升和开源生态的成熟

 黄悠远
2026-05-14 16:01:33

 585

 9

#GPU
龙芯平台桥片与GPU技术突破：从硬件瓶颈到均衡体验的实践指南

在现代计算系统中，芯片组（Chipset）作为CPU与外围设备的核心互联枢纽，其提供的PCIe通道、内存控制器及高速I/O接口性能，直接决定了系统的数据吞吐与扩展能力。图形处理单元（GPU）则负责图形渲染与并行计算，其API支持度与驱动成熟度深刻影响用户体验与软件生态。理解桥片与GPU的工作原理，对于构建高性能、高能效的计算平台至关重要，其技术价值在于消除系统瓶颈，释放CPU算力，实现各子系统间的

 陈丰Element Chan
2026-05-14 11:37:41

 580

 12

#GPU
FPGA与GPU在计算存储加速中的架构差异与应用场景深度解析

计算存储加速是解决现代数据中心'存储墙'瓶颈的关键技术，其核心原理是将计算任务卸载到靠近数据源的专用硬件上执行，从而减少数据搬运开销，提升系统整体能效。从技术实现上看，主要分为基于定制化数据流处理的FPGA方案和基于大规模并行计算的GPU方案。FPGA通过硬件描述语言构建专用流水线，擅长低延迟、确定性的流式处理，如实时数据过滤、协议解析和加密解密，能有效卸载CPU负担。GPU则依托其海量计算核心与

 黄雀飞
2026-05-13 14:31:00

 452

 10

#GPU
DigitalOcean 发布 AMD Instinct MI300X GPU 裸金属服务器

AMD Instinct MI300X GPU 旨在通过紧凑高效的设计，提升 AI 和 HPC 计算能力。这些下一代 GPU 现已在 DigitalOcean 上提供，采用单租户裸金属配置，适用于需要更高控制力和计算能力的客户。MI300X 通过每个节点八块 GPU、高计算单元数量和 HBM3 内存容量，提供强劲的加速性能。此外，ROCm 开发者资源支持多个 AI 和 HPC 框架、领先的软件平台

 DO_Community
2025-04-03 15:45:00

 2626

 62

#人工智能 #大数据 #GPU
AMD与Meta达成6GW Instinct GPU合作，共建AI基础设施

AMD与Meta宣布扩大战略合作，达成一项为期多年、总量达6吉瓦（GW）的AMD Instinct GPU供应协议。此次合作涉及定制芯片、系统及软件层面的深度协同，旨在为Meta的大规模AI工作负载构建高性能、高能效的基础设施。

codeshare1135
2026-03-13 12:13:42

 205

 5

#人工智能 #GPU
Radeon GPU Profiler的overview用法

本文是对的Radeon GPU Profiler（RGP）的学习记录，原文是AMD的官网介绍，本文翻译overview部分。主要涉及Frame summary 、Barriers、 Context rolls 、Most expensive events、Pipelines这几个部分。

颜早早
2025-01-14 18:48:17

 513

#图形渲染 #GPU
radeon GPU硬复位小知识

在启动参数中传入radeon.hard_reset=1这一参数，实际上是给模块参数赋了值，模块参数所在文件及代码为：drivers/gpu/drm/radeon/radeon_drv.cint radeon_hard_reset = 0;MODULE_PARM_DESC(hard_reset, "PCI config reset (1 = force enable, 0 = disable (de

蓝天居士
2021-09-22 14:14:26

 988

 1

#GPU
GPU芯片综合指南

GPU（Graphics Processing Unit，图形处理器）是一种专门设计用于处理图形和并行计算任务的微处理器。最初GPU主要用于计算机图形渲染，但随着技术的发展，现代GPU已经成为并行计算、人工智能、科学计算等领域不可或缺的核心组件。

dijk
2026-04-10 16:31:38

 607

 7

#GPU