📖 AI 总结

本文介绍NVIDIA Nsight Python这一开源工具的使用方法，它作为NVIDIA内核分析器的Python接口，允许开发者通过nsight.annotate标记代码区域、用nsight.analyze.kernel装饰基准函数，直接以pandas DataFrame形式获取每个标注区域、每种配置和每次运行的硬件指标，无需在命令行下运行脚本再翻查报告。自1.0版本起，该库可将Nsight Compute附加到运行中的Python进程，因而可在Jupyter和Colab中使用；即将发布的1.1版本将增加实验性CUPTI后端、显式工具管理和自定义信息收集器。教程在免费的Colab T4环境中完整演示了安装新版Nsight Compute、分析首个内核、确定测量所需运行次数、考察缓存与时钟控制对同一内核的影响、在fp32和fp16下扫描矩阵尺寸并计算TFLOP/s、利用硬件计数器区分计算受限与内存受限工作负载、以字节移动量衡量内核融合、逐次记录时钟与温度、比较CUPTI后端与Nsight Compute，以及保留原始报告供深入分析等流程。该教程的意义在于降低了GPU内核性能分析的门槛，使Python开发者能在交互式环境中便捷地获取细粒度硬件指标并据此优化内核。