检查 CUDA 是否可用

• 如果返回 True，表示 CUDA 可以被 PyTorch 使用。
• 如果返回 False，可能需要检查是否安装了 CUDA 插件或мом库。

查看可用 GPU 的数量

• 例如：torch.cuda.device_count() 返回 4，表示有 4 块 GPU 可用。

查看 GPU 的名称和索引

• 参数 1表示从第 0 块 GPU 开始查询。
• 例如：torch.cuda.get_device_name(1) 返回 GPU 0x8068整体。

获取当前设备索引

• 例如：torch.cuda.current_device() 返回 0，表示当前使用了第 0 块 GPU。

确认 GPU 描述

• 输入 nvcc --show-devices 查看所有硬件设备的详细信息，包括型号、驱动版本和显存大小。

实时监控 GPU 利用情况

分配显存并优化资源使用

• 在运行 PyTorch 时，确保显存分配合理，避免显存耗尽。
• 使用 torch.cuda.set_device(0) 强制指定使用特定 GPU。
• 对模型进行多速率训练或批量调整，以优化显存和计算速度。

添加 GPU 检查到脚本中

• 例如：在脚本开始部分添加以下代码：

  import torchassert torch.cuda.is_available(), "CUDA不可用，查看驱动或版本更新"

• 通过脚本化处理，使GPU检查自动化和高效化。