nvidia-smi命令
##############



示例::

    +---------------------------------------------------------------------------------------+
    | NVIDIA-SMI 535.183.01             Driver Version: 535.183.01   CUDA Version: 12.2     |
    |-----------------------------------------+----------------------+----------------------+
    | GPU  Name                 Persistence-M | Bus-Id        Disp.A | Volatile Uncorr. ECC |
    | Fan  Temp   Perf          Pwr:Usage/Cap |         Memory-Usage | GPU-Util  Compute M. |
    |                                         |                      |               MIG M. |
    |=========================================+======================+======================|
    |   0  Tesla V100-SXM2-32GB           Off | 00000000:00:09.0 Off |                    0 |
    | N/A   38C    P0              37W / 300W |  12670MiB / 32768MiB |      0%      Default |
    |                                         |                      |                  N/A |
    +-----------------------------------------+----------------------+----------------------+



    顶部信息
        NVIDIA-SMI 535.183.01: 
            显示的是 NVIDIA 系统管理接口（nvidia-smi）的版本号。
            这是 NVIDIA 提供的工具，用于管理和监控 GPU。
        Driver Version: 535.183.01: 
            表示当前安装的 NVIDIA 驱动程序版本号。
        CUDA Version: 12.2: 
            显示当前支持的 CUDA 版本。
            CUDA 是 NVIDIA 提供的用于并行计算的工具包。

    GPU 状态
        GPU Name: 
            显示 GPU 的型号和配置。
            在这里是 Tesla V100-SXM2-32GB，这是 NVIDIA 的一款高性能计算 GPU，拥有 32GB 的显存。
        Persistence-M: 
            这表明 GPU 持久化模式（Persistence Mode）的状态。
            Off 表示该模式关闭。
            开启此模式可以保持 GPU 驱动在系统重启后不被卸载。
        Bus-Id: 
            显示 GPU 在系统总线上的位置（在 PCIe 总线上的标识）。
            这里 00000000:00:09.0 表示 GPU 的总线 ID。
        Disp.A: 
            表示显示器活动状态。
            Off 表示 GPU 没有连接到显示器或不用于显示任务。
        Volatile Uncorr. ECC: 
            表示易失性非纠错（ECC）内存错误的数量。
            0 表示没有检测到此类错误。

    温度和功耗
        Fan: 
            风扇状态。
            N/A 表示不适用或没有风扇信息。
            Tesla V100 可能没有风扇或其风扇速度不可用。
        Temp: 
            当前 GPU 的温度。
            这里是 38C，表示 GPU 温度为 38 摄氏度。
        Perf: 
            显示 GPU 性能状态。
            P0 表示 GPU 处于最高性能状态。
        Pwr:Usage/Cap: 
            显示 GPU 当前功耗和最大功耗。
            37W / 300W 表示当前功耗为 37 瓦特，最大功耗为 300 瓦特。

    内存使用情况
        Memory-Usage: 
            显示 GPU 内存的使用情况。
            12670MiB / 32768MiB 表示 GPU 总共 32GB 内存中，已使用 12.67GB。
        GPU-Util: 
            GPU 的使用率。
            0% 表示 GPU 当前没有进行计算任务或完全空闲。
        Compute M.: 
            计算模式。
            Default 表示使用默认计算模式。
        MIG M.: 
            显示多实例 GPU（MIG）模式的状态。
            N/A 表示此 GPU 不支持 MIG 功能。







实例
====



nvidia-smi::

    Thu Feb 29 19:54:59 2024
    +-----------------------------------------------------------------------------+
    | NVIDIA-SMI 520.61.05    Driver Version: 520.61.05    CUDA Version: 11.8     |
    |-------------------------------+----------------------+----------------------+
    | GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
    | Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
    |                               |                      |               MIG M. |
    |===============================+======================+======================|
    |   0  Tesla V100-SXM2...  On   | 00000000:00:09.0 Off |                    0 |
    | N/A   41C    P0    37W / 300W |   4792MiB / 32768MiB |      0%      Default |
    |                               |                      |                  N/A |
    +-------------------------------+----------------------+----------------------+

    +-----------------------------------------------------------------------------+
    | Processes:                                                                  |
    |  GPU   GI   CI        PID   Type   Process name                  GPU Memory |
    |        ID   ID                                                   Usage      |
    |=============================================================================|
    |    0   N/A  N/A      7562      C   python                            884MiB |
    |    0   N/A  N/A   1425768      C   ./main                            836MiB |
    |    0   N/A  N/A   2854007      C   python                           1092MiB |
    |    0   N/A  N/A   3937597      C   ...3/envs/btc_env/bin/python     1164MiB |
    |    0   N/A  N/A   4027652      C   ...3/envs/btc_env/bin/python      808MiB |
    +-----------------------------------------------------------------------------+






自动刷新::

    nvidia-smi -l

    watch -n 1 nvidia-smi