Nsight Compute
NVIDIA 提供的GPU kernel级性能分析工具,可测量单个kernel的吞吐、occupancy、DRAM读写字节数及内存吞吐占峰值百分比,用于判断计算受限或带宽受限。
时间轴 (近 90 天)
在部分系统配置下(尤其是启用安全启动或运行在虚拟化/容器环境中),Nsight Compute等性能分析器可能无法访问GPU硬件性能计数器,导致分析功能受限或失败,且错误信息往往不够直观。
硬件性能计数器是GPU内部用于统计SM利用率、内存带宽、指令发射数等指标的专用寄存器,Nsight Compute通过驱动接口(如CUPTI)读取这些计数器。
Nsight Python 缺少 Nsight Compute 那种交互式的源码级关联视图。
Nsight Python 更适合嵌入到已有的测试或调优脚本中,用于快速筛查和回归对比,发现异常内核后再用图形化工具深挖。
通过 Nsight Systems 与 Nsight Compute 配合可以定位性能瓶颈是内存受限还是计算受限,从而选择优化方向
GPU硬件性能计数器数量有限,dcgm-exporter占用后Nsight Systems、Nsight Compute等工具无法同时使用同一组计数器
全部知识事实 (6)
在部分系统配置下(尤其是启用安全启动或运行在虚拟化/容器环境中),Nsight Compute等性能分析器可能无法访问GPU硬件性能计数器,导致分析功能受限或失败,且错误信息往往不够直观。
50%待验证硬件性能计数器是GPU内部用于统计SM利用率、内存带宽、指令发射数等指标的专用寄存器,Nsight Compute通过驱动接口(如CUPTI)读取这些计数器。
50%待验证Nsight Python 缺少 Nsight Compute 那种交互式的源码级关联视图。
50%待验证Nsight Python 更适合嵌入到已有的测试或调优脚本中,用于快速筛查和回归对比,发现异常内核后再用图形化工具深挖。
50%待验证通过 Nsight Systems 与 Nsight Compute 配合可以定位性能瓶颈是内存受限还是计算受限,从而选择优化方向
50%待验证GPU硬件性能计数器数量有限,dcgm-exporter占用后Nsight Systems、Nsight Compute等工具无法同时使用同一组计数器
50%