脚本形参填入参数，如：--arg1 value1 --arg2 value2。最后给文件打上断点，再点击调试按键，就可以调试了。script选择你要调试的python文件。

注意，conda的路径是你安装的conda的Scripts里的conda.exe；图片里环境显示是默认的，你应该选择刚刚新建myenv。首先在conda prompt里创建虚拟环境，比如。往里面安装点自己的包，比如。

类型含义表示一个图（Graph），由若干节点（kernel/memcpy/memset 等）和依赖关系组成。表示图中的一个节点（Node）。表示图的“可执行版本”（Executable Graph），通过创建，可直接执行。1️⃣创建一个空的 CUDA 图。pGraph：输出参数，用于返回创建的图对象；flags：目前必须为0（保留字段）。2️⃣销毁图对象，释放相关资源。

当时想学linux下的，感觉搞不懂想着先删了以后再搞，结果明天网就连不上了我解决方案如下先win+R 输入regeditctrl+F查找VMnet，把那个注册表删了（应该位置是你上次下vmware的地方）在控制面板-网络和internet-更改适配器选项里把vmware network adapter vmnet1/8都禁用我是这么弄就成功了

单 GPU→ 不用 group API 也没问题。多 GPU 同线程→ 建议使用，尤其是 AllReduce、Broadcast 这种涉及所有 GPU 的 collective 操作。多线程每线程一个 GPU→ 每线程只处理自己的 GPU，一般不需要 group API。下一节，会尝试多线程每个线程一个GPU的模式。

在调用时，CUDA 会在主机申请一块页锁定内存再通过把这块主机内存映射为设备端地址空间中的指针；当 GPU 访问dev_a[i]时，会通过PCIe 总线从主机 RAM 中取数据，实现零拷贝访问。所以它虽然“看起来像显存指针”，但其实访问的是主机内存。下面用该机制重写cuda编程笔记（2.5）--简易的应用代码-CSDN博客里的矢量点乘#endifif (res!stride > 0;// 将每个

由于每次只能将(TILE_SIZE × TILE_SIZE)大小的矩阵加载进共享内存，而一块（TILE_SIZE × TILE_SIZE）大小的矩阵A区域和一块（TILE_SIZE × TILE_SIZE）大小的矩阵B区域，不一定能够完成C[i][j]的计算。红色区域是本Block负责的（TILE_SIZE × TILE_SIZE）的区域，而计算这些区域C矩阵的值需要用到如下A，B矩阵的区域。任务

cuBLAS 是 NVIDIA 提供的 GPU 加速 BLAS 库；使用时需要#include <cublas_v2.h>如果使用VS，需要添加cublas.lib的链接；如果用命令编译，-l记得加上cublas类型：枚举类型作用：表示 cuBLAS API 的返回状态（错误码）。常用值：返回值检查（典型模式）：cublasHandle_t类型：指向 cuBLAS 库上下文的句柄（类似于会话）。作

CUDA 中的指能在并发线程中的函数。它们避免了竞态条件（race condition），保证操作的，即多个线程对同一个变量的读-改-写过程不会相互干扰。__device__（即修改之前的值）。常用原子操作函数分类。

CUDA 中的是一种，它使用了来提升内存访问效率，尤其在图像处理、科学计算中，访问图像数据或二维数据区域时表现优异。纹理内存并不是一种“新的内存”，而是对显存（全局内存）中数据的一种，提供了更高效的数据访问模式（带缓存 + 插值支持），特别适合处理：图像、视频等有的数据访问（相邻线程访问相邻数据）纹理内存的优势：如果线程访问的数据具有（相邻线程访问相邻地址），纹理缓存就能大幅提升带宽利用率。如果你