SOURCE / dao-flashattention-2022

Tri Dao 等, FlashAttention: Fast and Memory-Efficient Exact Attention with IO-Awareness, 2022

固定 tiling 减少 HBM 与 on-chip SRAM 之间的 reads / writes,且保持 exact attention;说明较少 FLOPs 不自动等于更短 wall-clock time,不能把算法写成新硬件架构;定位:PDF pp. 1-4,Abstract、Figure 1、§2.1

权利说明

版权声明:原始页面、论文、报告和文字记录的权利归作者、出版方、机构及其他原权利人;《原代码》公开必要的证据快照用于技术评论与核查,保留原始链接。

被引用位置