A Unified View of Attention and Residual Sinks: Outlier-Driven Rescaling is Essential for Transformer Training¶
作者: Zihan Qiu, Zeyu Huang, Kaiyue Wen, Peng Jin, Bo Zheng, Yuxin Zhou et al.
来源: XAGI 2026 交叉智能大会 · Session 01 Keynote · 返回会议场次
报告: 大模型中离群值的功能性分析 · 讲者 邱子涵(阿里巴巴 · Qwen 预训练)
论文: arXiv:2601.22966
本页是会议报告的对应论文长篇精读;会议现场的报告摘要见场次页。
一、领域脉络与小综述¶
这个方向是什么:大语言模型(LLM)在预训练过程中,其隐藏激活与注意力分数中会涌现出少量极端值(outliers)。这些极端值在量化和推理时造成数值困难,但直接裁剪或抑制它们又会严重损害模型性能。本文所隶属的子方向,正是要回答"这些离群值到底是什么、为什么存在、能否在保留其功能的前提下消除它们"。这个方向目前处于"现象已充分记录、机制解释正在收敛、缓解手段仍以经验为主"的阶段——离群值的分布规律已有大量观测(Dettmers et al., 2022; Sun et al., 2024; An et al., 2025),但其功能角色的统一理论才刚刚出现(即本文)。
发展脉络(按引用关系串):
- 奠基:Transformer 与归一化架构。Vaswani et al. (2017) 提出 softmax 注意力与残差连接;Zhang et al. (2019) 提出 RMSNorm,成为后续 LLM 的标准组件。这一阶段没有意识到离群值的存在。
- 现象发现:离群值阻碍量化。Dettmers et al. (2022) 系统记录了 LLM 激活中的极端值,指出它们集中在特定维度且对量化误差影响巨大;Kovaleva et al. (2021) 在 BERT 中发现少数"异常维度"持续激活。此时离群值被视为需要绕过的障碍。
- 注意力汇聚(attention sink)的提出:Xiao et al. (2023b) 发现 LLM 会将大量注意力分数分配给初始 token(即使它无语义重要性),并利用这一现象实现 StreamingLLM。同期,Sun et al. (2024) 提出"大规模激活"(massive activations),发现特定 token 在特定维度产生极大激活值,且这些值在推理时充当偏置项。
- 机制解释的竞争:Bondarenko et al. (2023) 认为离群值与注意力头试图实现"no-op"(即不做更新)有关,是 softmax 输入被不断推大的结果;An et al. (2025) 则系统论证离群值是 softmax 的固有产物,并充当"隐式缩放因子"。这两条线索都指向"离群值有功能",但未统一。
- 无归一化 Transformer 的尝试:Zhu et al. (2025) 提出 DyT(Dynamic Tanh)替代归一化层,发现离群值大幅减少但训练稳定性下降。这条线索暗示:离群值可能是归一化机制的功能性副产品,而非纯粹的病理现象。
- 本文的位置:将注意力汇聚与残差汇聚统一为"离群值驱动的重缩放"(outlier-driven rescaling),提出这是 Transformer 通过归一化层实现动态缩放的一种机制,并给出替代方案(GatedNorm)。
子线索聚类:
- 线索 A:离群值的表征与分布(Dettmers 2022; Kovaleva 2021; Sun 2024; An 2025)——回答"离群值在哪、长什么样"。
- 线索 B:离群值的功能解释(Bondarenko 2023; An 2025; 本文)——回答"离群值有什么用"。
- 线索 C:离群值的缓解与消除(Xiao 2023a SmoothQuant; Wei et al. 2022; Xi et al. 2023; 本文的 GatedNorm)——回答"如何在不损害功能的前提下消除离群值"。
- 线索 D:无归一化架构(Zhu 2025; Chen et al. 2025)——通过移除归一化来观察离群值的必要性,是本文的重要对照。
这个方向在追问的核心问题: 1. 离群值是否具有不可替代的功能?还是仅仅是训练动态的副产品? 2. 归一化层(softmax、RMSNorm)与离群值之间的耦合机制是什么? 3. 能否设计出保留缩放功能但数值友好的架构?
⚠️ 作者的 framing(这是作者的说法):作者把缺口 frame 成"已有工作分别研究了注意力汇聚与大规模激活,但缺乏统一视角;本文证明二者本质上是同一机制——离群值驱动的重缩放——在不同归一化层的表现"。作者通过干预实验(移除归一化、裁剪离群值、引入显式门控)来确立这一因果主张。被淡化的竞争路线包括:① 将离群值视为优化动态的副产品(而非功能设计)的可能性;② 无归一化架构(如 DyT)在足够调参后是否也能达到同等性能——作者仅报告了"训练稳定性下降",未给出大规模调参后的对比。什么明显该被引却没出现:关于 Transformer 训练动态的理论分析(如损失景观几何、特征学习理论)未被引用;随机矩阵理论对注意力 softmax 输入的分析也缺席。这些可能是值得研究者去查的空白。
张力:未见明显对立引用。但存在一个隐含张力:Bondarenko et al. (2023) 认为离群值是注意力头"试图不做事情"的副产物(即一种失败模式),而 An et al. (2025) 与本文认为离群值是主动的缩放机制(即一种功能设计)。同一现象,两种解释,本文用干预实验支持后者,但并未直接反驳前者的机制细节。
二、最核心、最简单的例子 / 数学问题¶
第一步:符号、模型、可观测数据
设输入序列长度为 \(L\),嵌入维度为 \(d\)。记第 \(i\) 层的输入为 \(H_i \in \mathbb{R}^{L \times d}\),层函数为 \(F_i\),则 pre-norm Transformer 的更新为:
RMSNorm 的定义(Zhang et al., 2019):
其中 \(x \in \mathbb{R}^d\) 是单个 token 的隐藏向量,\(\lambda \in \mathbb{R}^d\) 是可学习的逐维缩放参数,\(\odot\) 是逐元素乘法。注意:RMSNorm 没有减去均值,只做 RMS 缩放。
注意力汇聚(attention sink):在 softmax 注意力中,少数 token(通常是序列第一个 token)获得异常高的注意力分数 \(a_{\text{sink}} \gg a_{\text{other}}\)。
残差汇聚(residual sink):在隐藏状态 \(H_i\) 中,少数固定维度 \(j\) 的激活值 \(H^j_{i,n}\) 对几乎所有 token \(n\) 都持续保持远大于其他维度的量级(例如超过 1000,而普通维度在 10 以下)。
可观测数据:研究者能观测到的是训练好的模型权重(\(\lambda\)、注意力投影矩阵、FFN 权重)以及前向传播时的中间激活值(\(H_i\)、注意力分数)。不可直接观测的是"离群值的功能"——这只能通过干预实验(裁剪、移除、替换)来间接推断。
第二步:最小内核
把论文的所有架构细节剥掉,剩下的核心机制可以用一个 一维例子 讲清楚。
设有一个向量 \(x \in \mathbb{R}^d\),其中第 \(j\) 维是离群值:\(|x_j| \gg |x_k|\) 对所有 \(k \neq j\) 成立。RMSNorm 先计算 RMS:
由于 \(x_j\) 占主导,\(\text{RMS}(x) \approx |x_j|/\sqrt{d}\)。于是归一化后:
对于非离群维度 \(k \neq j\),这个比值很小(因为 \(|x_k| \ll |x_j|\));对于离群维度 \(j\),这个比值约为 \(\sqrt{d}\)。然后乘以 \(\lambda\):
现在关键来了:如果模型学到 \(\lambda_j\) 很小(例如 0.004,论文附录 A.5.1 中观测到的实际值),那么离群维度在输出中的贡献 \(\lambda_j \cdot \sqrt{d}\) 并不大。但它的存在通过 RMS 分母压缩了所有其他维度的值。也就是说,离群值充当了一个全局缩放旋钮:增大 \(x_j\) 等价于缩小所有非离群维度的有效增益。
论文附录 A.1 给出了一个上界估计。设 \(h \in \mathbb{R}^D\),只有一个离群维度 \(d\),且 \(|\lambda_d| \le \epsilon \|\lambda\|_\infty\),离群值占向量范数的比例为 \(r = |h_d|/\|h\|_2\),则:
当 \(r \to 1\)(离群值越极端)且 \(\epsilon \ll 1\)(对应维度权重很小)时,输出范数被压缩到约 \(\|\lambda\|_\infty \sqrt{1-r^2}\)。离群值越大,其他维度的有效范数越小。
这就是论文的核心主张:离群值不是噪声,而是模型刻意使用的缩放机制。注意力汇聚同理——softmax 的归一化分母被一个"吸收注意力"的 sink token 控制,从而调节其他 token 的注意力权重分布。
为什么这个机制有用? 论文认为,这给了网络一个廉价的方式来动态调节信息流的幅度,而不需要改变大量权重。但代价是数值动态范围变大,给量化带来困难。因此,如果显式提供等价的缩放功能(如 GatedNorm 的门控),模型就不再需要产生离群值。
三、这篇论文做了什么¶
三句话: 1. 研究了什么问题:LLM 中注意力汇聚与残差汇聚(大规模激活)的功能角色,提出统一假说"离群值驱动的重缩放"(outlier-driven rescaling),即离群值与归一化层协同,对非离群分量施加全局缩放。 2. 核心方法:在 2B 稠密模型、7B/24B MoE 混合注意力模型上做系统性干预实验——移除归一化、裁剪离群值、引入显式门控缩放(GatedNorm/PreAffine)——检验离群值的因果作用。 3. 主要结论:离群值确实执行缩放功能;直接裁剪或抑制它们会损害训练稳定性和最终性能;但通过 GatedNorm 显式提供缩放后,模型可以在不产生离群值的情况下达到更优性能,并显著提升量化鲁棒性。
关键设定与假设:
- 模型架构:pre-norm Transformer,RMSNorm,softmax 注意力与线性注意力混合(每 4 层插入一层 softmax 注意力),MoE 使用 128/256 个专家,top-k 路由,全局负载均衡损失(引用 Qiu et al., 2025a)。训练数据规模 120B–1T tokens。
- 干预设计:
- 移除归一化:用 DyT(Dynamic Tanh)替换 RMSNorm,观察离群值消失但训练不稳定(表 1 第 6–9 行)。
- 裁剪离群值:在训练中对激活值做硬裁剪(clip),观察性能下降(表 1 第 10–14 行)。
- 显式缩放:在 RMSNorm 后加门控(GatedNorm),或在 attention 中加门控(GA),观察离群值是否被"吸收"进参数。
- 量化评估:在 W4A4 FP4 量化下比较各方法的性能下降幅度(表 2)。
主要结果(具体数字):
| 配置 | 峰值激活 | 最终 Loss | 相对基线 |
|---|---|---|---|
| 基线(全注意力 + RMSNorm) | 6000 | 1.964 | — |
| + GA(门控注意力) | 2800 | 1.957 | -0.007 |
| + GA + PreAffine | 640 | 1.954 | -0.003(相对 GA) |
| + GA + GatedNorm | 430 | 1.951 | -0.006(相对 GA) |
| DyT(无归一化) | 73 | 2.216 | +0.259 |
| DyT + GA + GatedNorm | 53 | 1.969 | +0.018(相对 DyT 基线) |
| GLU(sigmoid 激活) | 1300 | 1.975 | +0.011 |
| GLU + GA + GatedNorm | — | 1.948 | -0.003(相对 GLU 基线) |
量化鲁棒性(24B MoE,W4A4):GatedNorm 相比基线性能下降仅 -1.23 点,而基线下降 -2.76 点(表 2 第 7–12 行)。在 MGSM 多语言基准上,GatedNorm 是唯一将量化损失控制在 5 点以内的方法。
证明路线(实证为主,理论为辅):
- 建立现象关联:展示不同架构下离群值的位置(注意力汇聚 vs 残差汇聚)与强度,说明二者此消彼长(GA 减少注意力汇聚但残差汇聚仍在)。
- 干预实验:通过裁剪和架构替换,证明离群值的存在与性能正相关——移除它性能下降,保留它性能稳定。
- 机制验证:GatedNorm 显式提供缩放后,模型自动停止产生离群值(图 2 右),说明离群值只是实现缩放的一种手段,而非不可替代的必需品。
- 理论支撑:附录 A.1 的范数上界不等式,说明离群值如何通过 RMSNorm 分母控制全局尺度。
技术技巧: - GatedNorm:在 RMSNorm 之后加一个低秩门控 \(y' = \sigma(W_{up}(\text{swish}(W_{down}(y)))) \odot y\),秩 \(r=16\),参数仅占 2%。门控提供逐 token、逐维度的软缩放,替代离群值的硬缩放功能。 - PreNorm 的 PreAffine:在 RMSNorm 之前加可学习缩放向量 \(\lambda_1\),将离群值"吸收"进参数。 - 对照设计:所有干预都保持总参数量不变(调整 FFN 宽度),确保性能差异不是来自参数量的变化。
🔎 结论是否比证明窄: - 论文在摘要和结论中声称"离群值驱动的重缩放是 Transformer 训练的本质机制",但严格证明的只是"离群值具有缩放功能"(通过干预实验),并未证明"缩放是离群值的唯一功能"或"所有离群值都服务于缩放"。论文在 Limitations 中承认"我们未解释为什么模型选择离群值而非显式门控来实现缩放"——这是一个诚实的边界。 - 表 1 中 DyT 的对比(第 6–9 行)只报告了"训练不稳定",但 DyT 论文(Zhu et al., 2025)声称在充分调参后可以达到接近 RMSNorm 的性能。作者用"需要更小的学习率"来解释,但没有给出 DyT 在最优超参数下的对比。因此"移除归一化必然导致性能下降"这一结论的强度,取决于读者是否接受作者的超参数搜索范围。 - 论文对"为什么 GatedNorm 有效"的解释是"显式提供了缩放",但 GatedNorm 同时引入了额外的非线性(sigmoid 门控),性能提升可能部分来自非线性表达能力的增加,而非单纯替代离群值。作者没有做"门控但固定为常数"的对照实验来排除这一替代解释。
四、开放问题¶
-
离群值的涌现动力学:论文观测到离群值在训练早期迅速出现(图 4),但未解释"为什么梯度下降会选择离群值 + 小权重"这一特定解,而不是直接学习一个温和的缩放参数。这与特征学习理论中的"富者愈富"动力学可能有关,但尚无理论刻画。扎根于:论文第 3.1 节"离群值在训练早期涌现"的观测,以及 Limitations 中"未解释涌现原因"的陈述。
-
缩放功能的统计效率:离群值驱动的缩放是一种"硬"机制(一个维度控制全局),而 GatedNorm 是"软"机制(低秩门控)。是否存在一个中间地带——例如秩为 1 的门控是否足以完全替代离群值?这关系到"离群值是否是低秩缩放在参数化约束下的最优实现"这一理论问题。扎根于:附录 A.1 的范数上界不等式,以及 GatedNorm 秩 \(r=16\) 的选择(未做秩的消融)。
-
与因果推断的潜在连接:离群值充当"干预变量"——改变它的值会系统性改变所有其他分量的分布。这类似于因果推断中的"胖手"干预(fat-hand intervention)。能否用半参数理论刻画"离群值干预"对下游表示的影响,并推导出最优门控设计的效率界?这是一个尚未被探索的交叉方向。扎根于:论文第 3.2 节裁剪实验的设计逻辑(干预 → 观测性能变化)。
-
量化误差的统计模型:论文展示了 GatedNorm 提升量化鲁棒性,但量化误差的分布特性(重尾?异方差?)未被建模。能否将离群值视为一种"方差携带者",用随机矩阵理论或高维统计中的尖峰模型(spiked model)来刻画量化误差的相变行为?扎根于:表 2 的 W4A4 实验结果,以及引言中引用的数值精度文献(Budzinskiy et al., 2025)。
-
验证建议:若要确认"离群值 = 缩放机制"这一因果主张的边界,可设计如下实验——在 GatedNorm 模型中人为注入固定离群值(而非让模型自己学习),观察性能是否下降。若注入离群值不损害性能,则说明缩放功能与离群值的"涌现"是解耦的;若损害,则说明离群值还有未识别的功能。这一实验在论文中未出现,但完全在其框架内可行。要确认这是否是真 gap,建议去读近 5 篇关于"massive activations"和"attention sink"的论文(如 Sun et al. 2024 的后续工作、An et al. 2025 的后续工作)的 intro——如果它们都指向"离群值有功能"但无人做注入实验,则这是一个共识性缺口。
Maintained by 陈星宇 · Homepage · Source