logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

深度学习程序占用GPU显存,但计算利用率低的可能原因

nvidia-smi查看GPU情况明明显存和使用率充足,但运行代码后计算利用率(GPU-Util)始终很低。网上查了很多资料说是CPU读写操作太多,但排查后发现主要时间用在模型的前向传播过程。但watch nvidia-smi又发现只有短时间GPU计算利用率不是0%。最后顺手kill掉一些占用GPU的程序,把显存都释放了,发现可以正常运行了,记录下提醒自己及时kill掉因为ctrl+c未及时释放G

文章图片
#深度学习#人工智能
深度学习程序占用GPU显存,但计算利用率低的可能原因

nvidia-smi查看GPU情况明明显存和使用率充足,但运行代码后计算利用率(GPU-Util)始终很低。网上查了很多资料说是CPU读写操作太多,但排查后发现主要时间用在模型的前向传播过程。但watch nvidia-smi又发现只有短时间GPU计算利用率不是0%。最后顺手kill掉一些占用GPU的程序,把显存都释放了,发现可以正常运行了,记录下提醒自己及时kill掉因为ctrl+c未及时释放G

文章图片
#深度学习#人工智能
深度学习程序占用GPU显存,但计算利用率低的可能原因

nvidia-smi查看GPU情况明明显存和使用率充足,但运行代码后计算利用率(GPU-Util)始终很低。网上查了很多资料说是CPU读写操作太多,但排查后发现主要时间用在模型的前向传播过程。但watch nvidia-smi又发现只有短时间GPU计算利用率不是0%。最后顺手kill掉一些占用GPU的程序,把显存都释放了,发现可以正常运行了,记录下提醒自己及时kill掉因为ctrl+c未及时释放G

文章图片
#深度学习#人工智能
深度学习程序占用GPU显存,但计算利用率低的可能原因

nvidia-smi查看GPU情况明明显存和使用率充足,但运行代码后计算利用率(GPU-Util)始终很低。网上查了很多资料说是CPU读写操作太多,但排查后发现主要时间用在模型的前向传播过程。但watch nvidia-smi又发现只有短时间GPU计算利用率不是0%。最后顺手kill掉一些占用GPU的程序,把显存都释放了,发现可以正常运行了,记录下提醒自己及时kill掉因为ctrl+c未及时释放G

文章图片
#深度学习#人工智能
到底了