Shekhar Pandey

Shekhar Pandey,ML 系统工程师,专注于 GPU 内核与大语言模型训练,撰写 AI 基础设施前沿相关内容。

文章

indianspeedster.github.io

AMD MI355X占用率数学解析:为何最大化占用率往往是错误的目标

本文深入解析了AMD MI355X (CDNA4)架构下的GPU内核占用率(Occupancy)计算原理。作者指出,占用率由VGPR、SGPR、LDS和工作组槽位四个资源限制中最先耗尽的一个决定,且可通过硬件预算和内核资源消耗手动推导。文章强调了一个关键反直觉结论:最大化占用率并非性能最优解。在MXFP8矩阵运算测试中,即使占用率大幅下降,只要矩阵核心利用…