ptx 汇编示例

CPU 是协调者，通过 PCIe 配置空间管理 GPU，更新 IOMMU 页表；GPU 是具体执行者，执行 DMA 传输，处理内存访问请求；则扮演了交通枢纽，路由 PCIe 事务，执行地址转换；起到本地交换机的作用，在 GPU 间直接路由数据包；IOMMU起到了安全网关的作用，提供地址转换和内存保护；这种硬件协作使得即使在没有直接 P2P 连接的情况下，也能实现相对高效的 GPU 间数据传输，虽然

（openmpi官方指导版本，有问题，待解）2路cpu，8A100卡。

sudo apt install python3.7sudo rm /usr/bin/python3sudo ln /usr/bin/python3.7 /usr/bin/python3sudo apt install python3-pipsudo pip3 install Cython sudo pip3 install numpy==1.6.0 -i https://pypi.tuna.ts

编译命令：%.ptx: %.cunvcc -arch=sm_70 -ptx $< -o $@生成的结果：编译命令：%.hip.s: %.hip$(HIPCC) $< -o $@ -S --offload-device-only生成的结果：存储为文本：3，hip asm 含义分析未完待续。。。

C是行主序，A，B是列主序，一维化地存储在数组里，并copy到GPU的全局内存中。一. 设计一个最容易理解的矩阵乘法的CUDA实现一个实现，一说就能让人懂得代码实现，也是一项挺难的任务。尝试实现如下：设置grid是一维即gridDim.y=gridDim.z=1 默认值；gridDim.x=MP的个数，比如RTX 3060含30个MP（即SM），V100含80个MP；于是，在不同的平台里，分别，g

安装 ssh-server安装较新版本的 cuda sdk下载cuda-samples github repo编辑修改 ssh 配置：删除相关注释，修改后如下：Port 22。

cd nccl/cd cupygit branchgit branch。

下面我们仅仅引入tiling方法，先分析一下能够减少多少次对全局存储区的访问。当M=N=K=4096时，用第一版的代码，忽略cache的缓存时，需要从全局存储区读取2*(4096^3)个float变量。

一个必要的步骤是写 blacklist，屏蔽 noveau 开源driver的开机自动加载，然后重启计算机后安装cuda sdk。