
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
nvidia-smi查看GPU情况明明显存和使用率充足,但运行代码后计算利用率(GPU-Util)始终很低。网上查了很多资料说是CPU读写操作太多,但排查后发现主要时间用在模型的前向传播过程。但watch nvidia-smi又发现只有短时间GPU计算利用率不是0%。最后顺手kill掉一些占用GPU的程序,把显存都释放了,发现可以正常运行了,记录下提醒自己及时kill掉因为ctrl+c未及时释放G

nvidia-smi查看GPU情况明明显存和使用率充足,但运行代码后计算利用率(GPU-Util)始终很低。网上查了很多资料说是CPU读写操作太多,但排查后发现主要时间用在模型的前向传播过程。但watch nvidia-smi又发现只有短时间GPU计算利用率不是0%。最后顺手kill掉一些占用GPU的程序,把显存都释放了,发现可以正常运行了,记录下提醒自己及时kill掉因为ctrl+c未及时释放G

nvidia-smi查看GPU情况明明显存和使用率充足,但运行代码后计算利用率(GPU-Util)始终很低。网上查了很多资料说是CPU读写操作太多,但排查后发现主要时间用在模型的前向传播过程。但watch nvidia-smi又发现只有短时间GPU计算利用率不是0%。最后顺手kill掉一些占用GPU的程序,把显存都释放了,发现可以正常运行了,记录下提醒自己及时kill掉因为ctrl+c未及时释放G

nvidia-smi查看GPU情况明明显存和使用率充足,但运行代码后计算利用率(GPU-Util)始终很低。网上查了很多资料说是CPU读写操作太多,但排查后发现主要时间用在模型的前向传播过程。但watch nvidia-smi又发现只有短时间GPU计算利用率不是0%。最后顺手kill掉一些占用GPU的程序,把显存都释放了,发现可以正常运行了,记录下提醒自己及时kill掉因为ctrl+c未及时释放G








