实时查看GPU显存占用、功耗、进程状态

实时查看GPU显存占用、功耗、进程状态

引用

CSDN

1.

https://m.blog.csdn.net/qq_36693723/article/details/142974892

在进行深度学习任务时，实时监控GPU的显存占用、功耗和进程状态是非常重要的。本文将介绍三种常用的方法：nvitop、nvidia-smi和gpustat，帮助你更高效地管理GPU资源。

方法 1：使用 nvitop

nvitop 是一个类似 top 命令的工具，可以实时监测 GPU 的显存使用、进程状态等。它不仅能查看GPU显存，还能查看内存使用，可视化效果较好。

安装

pip install nvitop

使用

nvitop

运行上述命令后，你将看到类似下图的界面，可以实时查看显存占用的变化情况，包括每个进程占用的显存量。

方法 2：使用 nvidia-smi

nvidia-smi 是 NVIDIA 显卡自带的管理工具，可以查看 GPU 的显存、温度、功耗等信息。通过结合 watch 命令，可以实现每秒刷新显示结果。

使用

watch -n 1 nvidia-smi

• watch -n 1：每 1 秒刷新一次显示结果。
• nvidia-smi：显示 GPU 状态，包括显存使用情况。

这将会以每秒一次的频率刷新 GPU 使用情况，你可以实时观察显存占用情况。

方法 3：使用 gpustat

gpustat 是另一个用于查看 GPU 状态的命令行工具，它类似于 nvitop，但显示更为简洁，只展示显存占用等关键信息。

安装

pip install gpustat

使用

watch -n 1 gpustat

这个命令会每 1 秒刷新一次 GPU 的状态，显示当前GPU的使用情况。

通过以上三种方法，你可以根据自己的需求选择最适合的工具来实时监控GPU状态，从而更有效地管理资源和优化深度学习任务。