提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档


前言

本文是我在用数据集验证DIEN模型时出现的bug-----InternalError: Blas xGEMM launch failed : a.shape=[1,4992,8], b.shape=[1,8,100], m=4992, n=100, k=8 [Op:MatMul]
这个问题可能是GPU内存不足,也可能是DUDA和cudnn不匹配。
以下是GPU内存不足的解决办法。

提示:以下是本篇文章正文内容,下面案例可供参考

一、解决办法

代码如下(示例):

import os
os.environ["CUDA_VISIBLE_DEVICES"] = '0'   #指定第一块GPU可用
config = tf.compat.v1.ConfigProto()
# 程序最多只能占用指定gpu50%的显存
config.gpu_options.per_process_gpu_memory_fraction = 0.8  
config.gpu_options.allow_growth = True      #程序按需申请内存
sess = tf.compat.v1.Session(config = config)

其他办法:去看看你的电脑CUDA和cudnn的版本,有可能是这个问题,不过这个重新安装比较麻烦。

Logo

鸿蒙生态一站式服务平台。

更多推荐