PyTorch Helion联手NVIDIA CompileIQ:一次搜索两层控制,GPU内核自动调优告别手写!
One Search, Two Layers: Compiler Controls Inside PyTorch Helion using NVIDIA CompileIQ
PyTorch Blog 重要 算力论文方法开源 🕐 10-19 23:45

📖 AI 总结

英伟达与Meta联合发布的技术文章介绍了PyTorch Helion编译器的一项新能力:在传统内核自动调优之外,引入由NVIDIA CompileIQ驱动的第二层编译器参数搜索。传统自动调优器(包括Helion、Triton及torch.compile)主要搜索分块形状、warp数量、流水线阶段和内存访问策略等线程块级决策,而寄存器分配策略、细粒度指令调度和代码生成启发式等ptxas层面的参数长期保持默认值,从未被系统优化。CompileIQ将这一编译器控制空间作为搜索对象,并以可移植的高级控制文件(ACF)形式发布预调优目录,Helion自动调优器可将其与内核配置联合评估。文章强调实验基线取自Helion仓库中约27个已高度优化的真实模型内核(涵盖FP8/NVFP4量化、RMSNorm、RoPE、分组GEMM、因果深度卷积、Gated DeltaNet解码及Qwen3解码层融合区域等),而非朴素内核,因此所报告的改进反映的是对已调优内核的“最后一英里”提升,具有实际参考价值。

🔍 深度解读 换个视角,同一件事有不同答案

正在读取芙娘的解读…
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅