GPUtil完全指南：如何用Python轻松监控NVIDIA GPU状态

【免费下载链接】gputil A Python module for getting the GPU status from NVIDA GPUs using nvidia-smi programmically in Python 项目地址: https://gitcode.com/gh_mirrors/gp/gputil

GPUtil是一款功能强大的Python模块，专为监控NVIDIA GPU状态而设计。它通过nvidia-smi工具获取GPU信息，帮助用户轻松实现GPU利用率、内存使用情况的实时监控和管理，是深度学习、科学计算等GPU密集型任务的必备工具。

🚀 为什么选择GPUtil？

在进行GPU相关开发时，你是否遇到过这些问题：

• 不清楚哪些GPU处于空闲状态
• 无法实时监控GPU资源使用情况
• 不知道如何为程序自动选择最合适的GPU

GPUtil就是为解决这些问题而生！它提供了简洁易用的API，让你可以在Python代码中轻松获取GPU状态信息，实现智能GPU选择和资源监控。

📋 系统要求与安装

系统要求

• NVIDIA GPU及最新驱动
• Python 2.X或3.X环境
• nvidia-smi工具（通常随NVIDIA驱动一起安装）
• 标准Python库：subprocess、distutils、math等

快速安装步骤

最简单的安装方式是使用pip：

pip install gputil

如果你需要从源码安装，可以按以下步骤操作：

1. 克隆仓库

git clone https://gitcode.com/gh_mirrors/gp/gputil

2. 进入项目目录并添加到环境变量

cd gputil
export PYTHONPATH="$PYTHONPATH:$(pwd)"

3. 验证安装是否成功

import GPUtil
GPUtil.showUtilization()

成功安装后，你将看到类似以下的输出：

 ID  GPU  MEM
--------------
  0    0%   0%

💻 核心功能与使用方法

基本使用

要在Python代码中使用GPUtil，只需简单导入：

import GPUtil

主要功能函数

1. 获取可用GPU

# 获取所有可用GPU
deviceIDs = GPUtil.getAvailable(
    order='first',  # 排序方式：first, last, random, load, memory
    limit=1,        # 返回的GPU数量限制
    maxLoad=0.5,    # 最大负载限制（0-1）
    maxMemory=0.5   # 最大内存使用率限制（0-1）
)

2. 获取第一个可用GPU

# 获取第一个可用GPU
deviceID = GPUtil.getFirstAvailable(
    maxLoad=0.5,    # 最大负载限制
    maxMemory=0.5,  # 最大内存使用率限制
    attempts=3,     # 尝试次数
    interval=60     # 尝试间隔（秒）
)

3. 显示GPU利用率

# 显示所有GPU的基本利用率信息
GPUtil.showUtilization()

# 显示所有GPU的详细信息
GPUtil.showUtilization(all=True)

辅助功能函数

1. 获取所有GPU信息

# 获取所有GPU对象列表
gpus = GPUtil.getGPUs()

# 遍历GPU信息
for gpu in gpus:
    print(f"GPU ID: {gpu.id}")
    print(f"GPU名称: {gpu.name}")
    print(f"GPU负载: {gpu.load*100}%")
    print(f"内存使用: {gpu.memoryUsed}/{gpu.memoryTotal} MB")
    print(f"内存使用率: {gpu.memoryUtil*100}%")

2. 检查GPU可用性

# 获取GPU可用性列表（1表示可用，0表示不可用）
gpus = GPUtil.getGPUs()
availability = GPUtil.getAvailability(gpus, maxLoad=0.5, maxMemory=0.5)

📚 实用示例

示例1：在TensorFlow中指定使用可用GPU

import os
import tensorflow as tf
import GPUtil

# 设置CUDA设备顺序，使CUDA分配的ID与nvidia-smi一致
os.environ["CUDA_DEVICE_ORDER"] = "PCI_BUS_ID"

# 获取第一个可用GPU
deviceID = GPUtil.getFirstAvailable()[0]

# 设置可见的GPU
os.environ["CUDA_VISIBLE_DEVICES"] = str(deviceID)

# 在指定GPU上运行TensorFlow代码
with tf.Session() as sess:
    with tf.device('/gpu:0'):
        a = tf.constant(12)
        b = tf.constant(30)
        result = sess.run(a + b)
        print(f"计算结果: {result}")

示例2：在单独线程中监控GPU

import GPUtil
from threading import Thread
import time

class GPUMonitor(Thread):
    def __init__(self, delay=10):
        super(GPUMonitor, self).__init__()
        self.stopped = False
        self.delay = delay  # 监控间隔（秒）
        self.start()
    
    def run(self):
        while not self.stopped:
            print("\n当前GPU利用率:")
            GPUtil.showUtilization()
            time.sleep(self.delay)
    
    def stop(self):
        self.stopped = True

# 启动监控线程，每10秒更新一次
monitor = GPUMonitor(10)

# 这里是你的主程序代码
# ...

# 程序结束时停止监控
monitor.stop()

🛠️ 常见问题解决

Q: 为什么调用GPUtil.showUtilization()显示0%利用率？

A: 这可能是因为GPU负载采样周期的问题。可以尝试使用单独的监控线程来获取更准确的实时数据，如上面的示例2所示。

Q: 如何排除特定GPU？

A: 可以使用excludeID参数排除特定ID的GPU：

available_gpus = GPUtil.getAvailable(excludeID=[0, 1])  # 排除ID为0和1的GPU

Q: 如何按内存使用情况排序GPU？

A: 使用order='memory'参数按内存使用率升序排列：

available_gpus = GPUtil.getAvailable(order='memory')

📄 项目文件结构

GPUtil项目的主要文件结构如下：

• GPUtil/ - 主模块目录
  • GPUtil.py - 核心功能实现
  • init.py - 包初始化文件
  • demo_GPUtil.py - 使用示例代码
• LICENSE.txt - 许可证文件
• setup.py - 安装配置文件
• README.md - 项目说明文档

📝 总结

GPUtil是一款简单而强大的GPU监控工具，它通过直观的API让Python开发者能够轻松获取和管理NVIDIA GPU资源。无论是在深度学习模型训练中选择合适的GPU，还是在生产环境中监控GPU资源使用情况，GPUtil都能为你提供可靠的支持。

通过本文介绍的安装方法、核心功能和实用示例，相信你已经掌握了GPUtil的基本使用。现在就开始在你的项目中集成GPUtil，让GPU资源管理变得更加高效和智能吧！

如果你在使用过程中遇到任何问题，可以查阅项目的README.md文档或查看demo_GPUtil.py中的更多示例代码。

【免费下载链接】gputil A Python module for getting the GPU status from NVIDA GPUs using nvidia-smi programmically in Python 项目地址: https://gitcode.com/gh_mirrors/gp/gputil