又快又准，即插即用！清华8比特量化Attention，两倍加速于FlashAttention2，各端到端任务均不掉点！

新闻中心 NEWS CENTER

您当前位置：首页 > 新闻中心 > 行业资讯

又快又准，即插即用！清华8比特量化Attention，两倍加速于FlashAttention2，各端到端任务均不掉点！

2024-10-21

浏览次数：次

返回列表

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

又快又准，即插即用！清华8比特量化attention，两倍加速于flashattention2，各端到端任务均不掉点！

AIxiv专栏是本站发布学术、技术内容的栏目。过去数年，本站AIxiv专栏接收报道了2000多篇内容，覆盖全球各大高校与企业的顶级实验室，有效促进了学术交流与传播。如果您有优秀的工作想要分享，欢迎投稿或者联系报道。投稿邮箱：liyazhou@jiqizhixin.com；zhaoyunfeng@jiqizhixin.com

论文第一作者张金涛来自清华大学计算机系，论文通讯作者陈键飞副教授及其他合作作者均来自清华大学计算机系。

大模型中，线性层的低比特量化（例如 INT8, INT4）已经逐步落地；对于注意力模块，目前几乎各个模型都还在用高精度（例如 FP16 或 FP32）的注意力运算进行训练和推理。然而，随着大型模型需要处理的序列长度不断增加，Attention（注意力运算）的时间开销逐渐成为网络优化的主要瓶颈。

为了提高注意力运算的效率，清华大学陈键飞团队提出了 8Bit 的 Attention（SageAttention）。实现了 2 倍以及 2.7 倍相比于 FlashAttention2 和 xformers 的即插即用的推理加速，且在视频、图像、文本生成等大模型上均没有端到端的精度损失。

又快又准，即插即用！清华8比特量化Attention，两倍加速于FlashAttention2，各端到端任务均不掉点！

论文标题：SageAttention: Accurate 8-Bit Attention for Plug-and-play Inference Acceleration
论文链接：https://arxiv.org/abs/2410.02367
开源代码：https://github.com/thu-ml/SageAttention
Yaara
使用AI生成一流的文案广告，电子邮件，网站，列表，博客，故事和更多…
95 查看详情

即插即用举例

SageAttention 可以一行代码轻松替换掉 torch 中当前最优的 Attention 接口（scaled_dot_product_attention），实现即插即用的推理加速。

具体来说，SageAttention 的使用非常方便，使用 pip install sageattention 后，

只需要在模型的推理脚本前加入以下三行代码即可：

效果上，以开源视频生成模型 CogvideoX 为例，使用 SageAttention 可以端到端加速 35%，且生成的视频无损：又快又准，即插即用！清华8比特量化Attention，两倍加速于FlashAttention2，各端到端任务均不掉点！

^{全精度 Attention} 又快又准，即插即用！清华8比特量化Attention，两倍加速于FlashAttention2，各端到端任务均不掉点！

^{SageAttention}

接下来，将从背景与挑战，技术方案，以及实验效果介绍 SageAttention。

背景

随着大模型需要处理的序列长度越来越长（比如 Llama3.1 支持 128K 的序列长度），Attention 的速度优化变得越来越重要。下图展示了一个标准的 Transformer 模型中各运算随着序列长度变化的时间占比：

挑战

为了方便指代注意力元算中包含的矩阵，我们先回顾一*意力的计算公式：

将神经网络中各运算的数值类型从高比特量化至低比特是一种有效提升计算和访存效率的方法。然而，研究团队发现直接将注意力运算中的 Q, K, P, V 从 FP16 量化为 INT8 或者 FP8 后将会导致在几乎所有模型和任务上都会得到极差的结果，例如，在 Unidiffuser 文生图模型中，会得到一张完全模糊的图像；在 Llama2-7B 进行四选一选择题任务上得到 25.5% 的准确率。

经过仔细分析后，研究团队发现主要是两个原因导致了量化注意力的不准确：

大多视频、图像生成模型中，矩阵 K 表现出了极强的通道维度的异常值分布，直接使用 INT8 或者 FP8 数据类型对其进行量化会导致巨大的误差。

在所有模型中，对矩阵 P, V 进行量化不能保证一个模型中所有层的精度。下表展示了对 P, V 量化后，Llama2-7B 和 Unidiffuser 模型所有层中，最差情况的层对应的量化注意力的准确度，（该准确度为量化注意力相比全精度注意力的误差），可以发现不管对 P, V 矩阵进行何种 8Bit （INT8，E4M3，E5M2）量化，总有些层的准确率非常差，导致了端到端效果的下降。

技术方案

为了解决上述的两个关键问题，研究团队提出了对应的解决办法。

对 K 进行平滑处理。SageAttention 采用了一个简单但非常实用的方法来消除矩阵 K 的异常值：K = K – mean (K) 其中 mean (K) 是沿着通道维度求平均值。这个简单的做法不仅不会影响注意力计算的正确性 Softmax (QK^T) = Softmax (Q (K-mean (K))^T) ；且对整个 Attention 速度的影响只有 0.2%；同时还保证了量化后的注意力运算的精度：

对 Q, K 进行分块 INT8 量化。对于矩阵 Q, K，SageAttention 采用了以 FlashAttention 的分块大小为粒度的 INT8 量化。这是因为：1. 对 Q, K 矩阵进行 INT8 量化相比于进行 FP8 量化，注意力的精度更高。2. 在一些常用卡上，比如 RTX4090，INT8 矩阵乘法（INT32 为累加器）的速度是 FP8（FP32 为累加器）的两倍。
对 P, V 采用 FP16 数据类型的矩阵乘法累加器。对于矩阵 P, V，SageAttention 采用了保留 P, V 为 FP16 的类型，但进行矩阵乘法时采用 FP16 数据类型的累加器。这是因为：1. PV 矩阵乘法的数值范围始终在 FP16 的表示范围内，且经过大量实验验证，FP16 作为累加器的数据类型不会带来任何精度损失（见下表）。2. 在一些常用卡上，比如 RTX4090，以 FP16 为累加器数据类型的矩阵乘法的速度是 FP32 作为累加器的两倍。