虚拟地址问题GPU不直接使用Ah这个CPU虚拟地址。驱动程序通过锁定内存和IOMMU映射，将Ah转换为稳定的物理地址，再为GPU提供一个它能够理解的IOVA。Copy Engine角色它是一个高度专业化的DMA控制器，独立于GPU的3D/Compute核心，专门负责在设备与主机之间高效地搬运数据。数据流Ad->->PCIe->GPU GMMU->系统IOMMU->内存控制器->Ah对应的物理内存。

tiny gpu:skybox:ventus gpgpu:vortex gpgpu:virgo gpu:e-GPU：一个用于 TinyAI 应用的开源可配置 RISC-V 图形处理单元图形处理单元（GPU）擅长并行处理，但由于其功耗和面积限制，以及缺乏合适的编程框架，在超低功耗边缘设备（TinyAI）中仍未得到充分探索。为了应对这些挑战，本工作介绍了嵌入式 GPU（e-GPU），一个专为 Tiny

特性nd-mesh（n维网格）Clos Network（叶脊网络）Torus（环面）核心形象城市的街道网格公司的汇报层级（全员互联）魔方（每个面首尾相连）对称性差好（逻辑对称）极好（物理对称）对分带宽低极高中到高扩展性中等极佳中等典型领域早期超算、片上网络现代数据中心/云高性能计算设计哲学简单、规整、成本可控无阻塞、高带宽、弹性扩展均匀延迟、高容错、高效通信。

Blackwell 和 Hopper 架构通过 TMA、集群共享内存、增强的 FP8 支持等功能，显著提升了 GPU 的计算能力和效率。这些新特性特别适合现代 AI 和高性能计算工作负载，能够提供更高的性能和能效比。开发者可以通过合理利用这些新功能来优化现有应用程序或开发新的高性能计算解决方案。请注意，要运行这些示例代码，需要:支持 Hopper 或 Blackwell 架构的 GPUCUDA 1

CPU 是协调者，通过 PCIe 配置空间管理 GPU，更新 IOMMU 页表；GPU 是具体执行者，执行 DMA 传输，处理内存访问请求；则扮演了交通枢纽，路由 PCIe 事务，执行地址转换；起到本地交换机的作用，在 GPU 间直接路由数据包；IOMMU起到了安全网关的作用，提供地址转换和内存保护；这种硬件协作使得即使在没有直接 P2P 连接的情况下，也能实现相对高效的 GPU 间数据传输，虽然

【代码】ubuntu 22.04 LTS openai triton 安装。

先基于 cuda 编译ucx再基于 ucx 编译 mpich--with-mpech3:sock//如果 --enable-thread，那么必须用此，所有通信皆用socketch3:ssm//节点内进程之间用共享内存；节点间用socketch3:shm//仅工作与smp机器，仅使用共享内存--with-pm=mkdir ucx。

对比之前的文件树：现在的文件树：添加了3个新文件，修改了4个旧文件，其中include/ic_add.h 其实可以改成 icmm.h，作为整个 shared library 被调用的头文件。现将新文件和更改的文件罗列如下：gpu/sub.cugpu/sub.hsrc/ic_sub.cppinclude/ic_add.hMakefilemakefile_bintesting/Makefiletest

调试 CUDA Kernel 并进入__device__函数是 CUDA 开发中一项非常重要的技能。这主要依赖于 NVIDIA 的官方调试器(用于系统级分析) 和(用于内核级分析) 以及经典的(命令行调试器)。这里将重点介绍两种最常用和强大的方法：使用(图形化界面，推荐) 和(命令行)。

Install Docker Engine on Ubuntu | Docker DocumentationInstructions for installing Docker Engine on Ubuntuhttps://docs.docker.com/engine/install/ubuntu/