8 位量化在大模型圈子里通常被归进压缩部署那一类——32 位浮点权重压成 8 位整数换来更小的显存占用和更快的推理速度训练时谁没事会主动去量化自己。但最近读到这篇关于持续学习Continual Learning的论文直接推翻了我的固有认知当大模型需要在一个任务接着一个任务上持续微调时把模型约束在 8 位量化空间里反而能显著降低灾难性遗忘Catastrophic Forgetting效果甚至比不少专门设计的防遗忘方法还要好。论文的核心观点可以浓缩成四个字少即是多——参数更新的自由度减少了模型对旧知识的保持能力反而增加了。这篇文章我会把它的核心发现、底层机制、实验设计和适用边界完整拆一遍重点讲清楚量化为什么能抗遗忘以及为什么偏偏是 8 位这两个最让人好奇的问题。读完你就能判断自己的持续学习场景适不适合直接抄这个方案。1. 一篇反直觉的发现精度越模糊记忆反而越牢1.1 论文把问题压缩成了什么形态先把这个研究摆到具体场景里。假设你已经有一个在大规模通用数据上训练好的底座模型它能回答常识问题、做数学推理、写代码。现在产品需要你按顺序给它补三批能力先批一批对话规范数据再批一批行业问答数据最后批一批代码数据。这就是最常见的持续学习流程任务一个接一个来旧任务的数据通常不会重新出现。在这个流程里最头疼的不是新任务学不会而是学完第三个任务之后第一个任务的能力掉得没法看。这就是灾难性遗忘。以前的做法无非是回放旧数据、加正则惩罚、或者冻结底座只训练 LoRA 之类的低秩适配器。这篇论文的出发点其实特别朴素如果上面这些机制全都不做只是把模型改动自身的自由度强行压低——具体来说就是把全部权重固定为 8 位整数——遗忘率会不会降低实验答案是会而且低得相当明显。这里有一个容易误读的地方论文不是说量化精度损失让模型变笨所以新任务也学不好自然忘不了旧任务。不是这种糊弄人的结论。从论文里的数据看8 位量化下新任务的学习效果只是轻微受损但旧任务的保持度大幅提升把两个指标加权起来看综合表现反而优于所有在浮点空间里做的对比方法。这才是少即是多真正成立的地方省下来的不是新任务的性能而是旧知识的记忆。1.2 一个值得反复琢磨的反常细节让我再说一个最反常的细节。量化本身是有损操作8 位量化后模型在单个任务上的能力一般来说会比浮点版本略差。按这个逻辑在持续学习里量化应该加剧遗忘才对——毕竟旧任务的表征也被量化损耗破坏了。但论文的观察恰恰反过来把模型量化到 8 位之后在量化空间里继续微调旧任务性能的掉落曲线变得非常平缓甚至比那些带着防遗忘正则的浮点模型还要平滑。我读的时候一直在想中间到底发生了什么。后来发现关键就藏在量化取整这个看似损失精度的操作里。它在这篇论文的场景里扮演的角色有点像给模型的所有参数装了一道保险丝不是所有的梯度更新都能真的改到权重——小于一定幅度的修改会被直接忽略。先把结论放在这里精度越模糊记忆反而越牢这个反常背后有明确的数学机制不是什么玄学。要理解它得先把持续学习本身的困境讲透。2. 持续学习的死结为什么学新和守旧天生打架2.1 从梯度视角看灾难性遗忘想理解这篇论文的价值先得把持续学习的老问题彻底想透。大模型的权重本质上是一个高维向量每一批训练数据都会产生一个梯度梯度告诉模型往哪个方向调整能更好拟合当前数据。当你训练任务 B 的时候梯度只会关心任务 B 的损失能不能降下去它才不管这个调整会不会破坏任务 A 需要的特征。问题在于任务 A 的知识并不存储在某一个特定的神经元里而是分散在大量参数的协同模式中。浮点精度下每一轮更新每个参数都会发生一个微小的变化。一两个参数的变化看不出影响但成千上万个参数各自漂移一点整个特征的组合方式就会偏掉。等到再用任务 A 的数据去测准确率就崩了。这不是某个别参数被破坏而是整个权重分布被一点一点推走。这里有一个核心矛盾模型必须保持足够的塑性plasticity才能学会新任务又要有足够的稳定性stability才能记住旧任务。这个矛盾在机器学习里叫 stability-plasticity dilemma。全参数微调天生偏向塑性因为更新没有任何阻碍所以这个矛盾会被放到最大。持续学习里几乎所有研究本质上都是在给这个过于灵活的训练过程踩刹车。2.2 现有方案各有各的贵应对遗忘的办法说起来不少真正好用的都有代价。我把主流思路和它们的成本整理了一下方案类别代表思路核心代价正则约束对重要参数的改动加惩罚需要额外计算参数重要性新旧任务权重难平衡超参数敏感经验回放重放旧任务的一小部分数据需要保存数据存在存储、隐私、数据分布偏移问题参数隔离LoRA、adapter、冻结部分层改变模型结构或推理路径新任务适配范围受秩限制数据蒸馏用旧模型的输出去约束新模型需要维护旧模型训练开销翻倍这并不是说这些方法不行——实践证明它们都很能打。但问题是它们全都属于显式防御要么额外存东西要么额外算东西要么额外改结构。量化持续学习提供的是另一条路径——隐式防御什么都不加什么都不改只是把权重更新的物理空间从连续变成离散。防御效果不是靠某个正则项加出来的而是靠量化取整这个操作在每一步反向传播里天然产生的。对我来说这种不加任何东西就能抗遗忘的思路价值不只是更好用而是它提醒我们持续学习不一定需要专门机制可能只需要限制模型改动自己的能力。3. 量化抗遗忘的本质权重更新中的死区效应3.1 8位量化到底做了什么先补一点量化基础。8 位量化把一组浮点权重映射到 256 个整数档位上。以最常见的非对称量化为例对某个权重张量先找到它的最小值和最大值然后计算缩放系数 scale (max - min) / 255每个权重 w 的量化结果是q round((w - min) / scale)推理时再反量化回近似浮点w q * scale min。这一步就是模型体积变小、推理变快的原因——整数运算比浮点运算快得多、省得多。但论文真正关注的是把这个量化过程放到训练里会发生什么。如果我们在微调时让权重始终保留在整数域那么每一轮更新就不再是浮点数加一个小数这么顺滑而是# 量化域持续学习的简化伪代码示意 scale (w_max - w_min) / 255 w_q round((w - w_min) / scale) # 前向使用量化权重 grad compute_gradient(w_q) # 反传计算梯度 delta round(-lr * grad / scale) # 把浮点梯度换算成整数步长 w_q w_q delta # 权重只在整数域累加这个流程里有一个极其关键的数学事实当 -lr * grad 的真实数值小于半个 scale 的时候round 之后 delta 就等于 0。也就是说你对模型做的这次梯度更新对权重来说等于什么都没做。3.2 死区把微小梯度拒之门外的信号阀这个做了更新但权重没变的区间在量化领域叫死区dead zone。死区的大小是量化步长的一半也就是 scale/2。浮点训练里没有死区任意小的梯度都能让权重发生改变哪怕只改 1e-7也会累积到权重分布里。8 位量化训练里小于半步长的更新被直接截断。为什么这个机制对持续学习这么重要因为在持续学习过程中绝大多数权重每轮收到的真实梯度幅度都很小——它们对应的能力已经被模型掌握梯度只是在做轻微修正或者干脆是批次之间的随机噪声。浮点训练里这种微小梯度被忠实地写入权重日积月累就变成了旧任务表征漂移的来源。8 位训练里这些微小梯度大部分够不到死区阈值直接被丢掉了。模型每轮真正发生改变的只有那些收到了足够大梯度的参数。想一想这像什么像在坡地上挖了一条排水沟雨小的时候水流顺着原来的沟渠走不会漫出来冲刷路面只有暴雨级别的水量才会越过沟沿改变地形。量化死区就是那道沟沿。新任务的学习会产生大量暴雨级梯度它们能越过阈值、改变权重旧任务维持所需的微小调整则被沟沿挡住权重稳稳留在原地。3.3 为什么离散更新能保住旧知识更进一步可以把量化训练看成一种带阈值的稀疏更新它和很多抗遗忘方法在精神上是相通的。研究者早就发现限制每轮只更新少量参数、或者随机冻结一部分参数可以降低遗忘——因为旧知识只在少数权重里被扰动。量化训练本质上实现了同样的效果但它不需要提前知道哪些参数重要也不需要显式的掩码。它的筛选逻辑完全由梯度幅度决定大梯度改小梯度不动。还有一个容易被忽略的附带作用量化取整本身引入了微小的确定性噪声。在持续学习里这种噪声相当于对梯度做了一次轻量正则化抑制模型对新任务分布的过度拟合。新任务学得没那么激进对旧任务的挤压自然也小。可以把这些都总结成一句话量化在压缩模型能力的同时也在给模型踩刹车让它不要轻易改动自己已经学会的东西。读论文的时候我特别注意到一个消融它几乎是整个机制成立的实锤如果把模型先量化到 8 位、然后再转回高精度去微调抗遗忘效果立刻消失了遗忘率跟从头到尾用高精度微调几乎一样。这说明问题不在初始低精度权重这个状态而在于训练过程必须持续经过量化取整。换句话说保护来自每一步的离散更新不来自出发时已经丢了精度。这一点非常关键后面实验部分我还会再提。4. 为什么偏偏是8位4位太钝、16位太灵、8位正好4.1 不同位宽下的遗忘-学习权衡死区效应的强度直接由位宽决定。位宽越低量化步长越大死区越宽权重越难变动位宽越高死区越窄更新越接近浮点。论文实验里通常会把 4 位、8 位、16 位、32 位放在同一套任务序列里对比结果呈现出非常清晰的中部最优规律位宽初始精度损失死区宽度新任务学习旧任务保持综合表现4 位大宽差强但保住的是受损知识差8 位小适中好强最佳16 位极小极窄好差差32 位无无好差差这组现象可以解释得很机械。先说 4 位。4 位量化只有 16 个档位量化误差从一开始就太大模型还没开始持续学习旧知识已经被量化损耗伤了一轮。训练时死区又宽又深新任务需要的大部分更新都被卡在阈值以下结果就是新任务学不进去旧任务也谈不上保持——因为保持住的是一份已经被严重压缩的知识。遗忘率数字可能好看但平均准确率整体被拉得很低。再说 16 位和 32 位。它们的问题正好相反死区太小小到近乎不存在。任何梯度都能改变任何权重模型对任务 B 的拟合过程同时也在无差别地改写任务 A 的特征。所以在持续性上它们都表现得很差跟标准全参数微调没有本质区别。8 位恰好卡在中间。它的量化误差小到不伤害模型原本的能力死区的宽度又足以挡住训练过程中的背景噪声梯度。结果就是它同时拿到了不错的新任务学习能力和优秀的旧知识保持能力。如果拿汽车做类比32 位是光溜赛道上的跑车加速猛但刹车差4 位是陷在烂泥里的越野车想走走不动8 位是日常代步车够用且稳定。持续学习需要的本来就不是极限速度而是全程不出乱子的平均成绩。4.2 量化粒度位宽之外的另一个旋钮这里我想多说一个论文里容易被略过、但实操中很关键的细节同样的 8 位按张量量化、按行/按通道量化、按更细的分组量化死区大小是不一样的。按通道量化时每个通道有自己的 scale细粒度越高参数的取值范围越窄scale 越小死区也越小。论文里如果对比了不同粒度一般会发现细粒度 8 位的新任务学习更好但遗忘保护会弱一些粗粒度的 8 位遗忘保护更强但新任务略吃力。这说明8 位并不是一个绝对的最优值而是一条权衡曲线上的推荐点。真正决定抗遗忘强度的是死区宽度相对于梯度分布的位置。如果你希望更强的保护可以下调位宽或者用更粗的量化粒度如果你更担心新任务学不好就上调位宽或者用更细的粒度。我自己的经验是先按默认的逐层 8 位跑一轮看新任务和旧任务哪个掉得更多再往相反方向拧一个档位比上来就调各种正则参数直观得多。5. 论文实验拆解一组值得反复看的数字5.1 实验编排任务序列、指标与基线为了说明泛化能力论文的实验编排通常不会只用一两个数据集。按我的理解这类持续学习实验一般会在一个通用底座模型上安排 6 到 8 个不同方向的任务构成一条任务链。每个任务完成一轮微调后立即用全部历史任务的测试集评估一遍。这样就能同时看到两个关键数字新任务学得怎么样旧任务还记得多少。衡量指标方面论文通常报告两个平均准确率Average Accuracy和遗忘率Forgetting。平均准确率是把所有历史任务在最终模型上的准确率取平均反映总体记忆水平遗忘率则是每个旧任务相对其刚学完时的峰值准确率下降了多少再取平均数值越低说明越不健忘。这两个指标必须一起看——只看遗忘率会忽略新任务没学好的情况只看平均准确率又会掩盖旧任务崩溃的严重程度。对比基线一般包括全参数浮点微调很容易忘、带正则惩罚的微调基于参数重要性的思想、带经验回放的微调重放 10% 左右的旧样本、以及只训练 LoRA 一类低秩适配器的方法。把这个矩阵跑完才能回答量化抗遗忘是不是真的比现有的专用方法更好。5.2 核心结果平均准确率与遗忘率的对照这类实验的最终结果一般来说会呈现出下面这样一组趋势具体数字不同论文有差异这里描述的是我读这篇论文时留下的整体印象方法平均准确率遗忘率额外成本全参数浮点微调中低高无正则约束微调中中需计算参数重要性经验回放10% 旧数据高低需保存数据低秩适配LoRA 类中高中低需设计适配器结构8 位量化域持续学习高低仅需保持量化训练其中最值得我注意的不是 8 位排名第一而是它跟经验回放之间的对比。回放是被验证过非常有效的抗遗忘手段但它必须持续保存一批旧数据、还要保证这些数据在训练中反复出现在数据隐私敏感或存储受限的场景里根本没法用。8 位量化域持续学习不需要任何旧数据却能达到接近甚至超过回放的效果。这个发现的实际价值在于它给了很多没法回放的场景一个免费的选择。当然 8 位也不是没有短板在单独的新任务性能上8 位量化通常比全参数浮点微调低一两个点。它的优势体现在组合指标上——新任务掉一点点旧任务保住一大截总体平均准确率反而最高。这个结论提醒我们在线下评估一个持续学习方案时千万别只盯着最后一个新任务的指标看。5.3 消融实验证明机制在人不在初始值前面我说过论文里有一个消融是理解整个机制的关键把模型先量化成 8 位然后马上转回浮点继续微调。这个变体的遗忘率会立刻升到和全程浮点微调差不多的水平完全失去保护作用。为什么因为一旦离开整数域每次更新又可以无差别地动到 0.0001 级别的权重那些微小漂移重新开始积累。这个对照干净利落地证明8 位带来的抗遗忘不是初始条件好的运气而是量化取整这个运算持续存在的结果。所以把它落地到代码里的正确姿势就是让前向传播始终在量化权重上进行。另一个常见的消融是位宽扫描。4 位、8 位、16 位、32 位四档曲线一拉出来8 位的优势特别突出。有的论文还会再补一个先浮点学完所有任务最后统一量化部署的对照组——这种事后量化在持续学习上的表现其实也不错因为它天然就不会再有训练更新了但它解决的是部署问题不是训练中的遗忘问题。两者要分清论文讨论的是训练过程层面的保护部署层面的量化是另一个故事。6. 对日常微调工作的启发与这篇论文的边界6.1 可以直接抄的三条实践建议第一个可以立刻落地的改变如果你的微调流程最终本来就要以 8 位模型上线那就别再把量化当成最后一步直接从 8 位底座开始做指令微调。这样做的推理开销不增加反而白捡一层防遗忘保护。我在实际项目中试过类似的流程一个明显的好处是后续每增加一批新数据、想出一个新任务都不太需要担心前面教过的能力悄悄消失。第二个建议是把 8 位量化微调和低秩适配结合起来。冻结 8 位底座只训练 LoRA 之类的适配器相当于在死区保护之外再加一层结构保护。论文本身的实验也显示量化底座 适配器的组合比单独用任一种都更稳。这种组合的实现成本很低主流模型生态里基本都有现成工具只需要注意训练时别让底座权重被自动转回高精度。第三个建议是盯住两个指标不要只看新任务。我见过太多团队在持续学习场景里只看最后一个任务或者最新任务集的指标结果模型看起来一路在涨往回一测才发现最早的能力已经掉了一半。建议每轮训练结束后都跑一遍全量历史任务的评估把平均准确率和遗忘率两个数字打印出来跟踪。直接借用论文里的指标来管理自己的模型迭代是我认为这篇论文最容易被带走的实用价值。注意这个方案的前提是训练全程保持量化域更新。如果中间任何一步把权重转回浮点死区保护就会消失前面的努力等于白做。6.2 论文的边界什么情况下少即是多会失效还有一个问题必须说清楚8 位量化不是持续学习的万能开关。论文里的任务序列通常只有个位数到十几个任务而且任务之间还是有一定相关性的。如果任务链很长、任务跨度极大比如前一阶段全部是中文文本下一阶段直接换到完全不同的语言8 位死区能不能扛住整体梯度的冲击目前证据还不够充分。理论上只要新任务的梯度足够强权重一样会被大幅改写旧知识还是会受损只是没有浮点那么彻底而已。另外量化训练在工程上也有不少坑。不是所有框架和硬件算子都支持整数域的梯度反传很多实现需要自定义直通估计器STE。一旦某个算子不支持训练就会报错或者悄悄退化成浮点行为。按我的经验刚开始迁移到量化域训练时最值得花时间的是老老实实核对每个关键算子的前向和反向行为而不是急着调超参。论文给了方向但把它搬到自己的训练框架里仍然需要一轮实打实的工程适配。还有一点是理论解释仍然偏直觉。为什么正好 8 位而不是 7 位或 9 位论文给的是实验证据和直观解释并没有给出一个从梯度分布推导出最优位宽的定量公式。后续如果能把这个公式补上持续学习里的量化方案就能从经验好用升级成可预测。我个人很期待看到位宽自适应、以及把量化防御与回放或蒸馏结合的进一步工作——因为现实中的持续学习很少是单一手段就能闭环的。最后说点我自己的体会。在做模型迭代时我们太习惯把更大的自由度等同于更好的效果总觉得能改的参数越多越好精度越高越好。这篇论文用一组扎扎实实的实验提醒我对一个大模型来说持续学习的主要敌人就是自身的过于灵活。8 位量化用最笨的办法——把所有权重锁在 256 个格子里——教会模型克制。保持克制当然会损失一点上限但换来的是更稳的全程表现。对我来说这是比任何花哨正则都更本质的思考方式。如果你的工作正好也在做多个任务顺序微调同一个模型的事我建议你抽出半个小时把这个方案在自己的底座上跑一遍对比。成本很低但结果可能会让你重新审视精度越高越好这个默认假设。
8 位量化在大模型圈子里通常被归进压缩部署那一类——32 位浮点权重压成 8 位整数换来更小的显存占用和更快的推理速度训练时谁没事会主动去量化自己。但最近读到这篇关于持续学习Continual Learning的论文直接推翻了我的固有认知当大模型需要在一个任务接着一个任务上持续微调时把模型约束在 8 位量化空间里反而能显著降低灾难性遗忘Catastrophic Forgetting效果甚至比不少专门设计的防遗忘方法还要好。论文的核心观点可以浓缩成四个字少即是多——参数更新的自由度减少了模型对旧知识的保持能力反而增加了。这篇文章我会把它的核心发现、底层机制、实验设计和适用边界完整拆一遍重点讲清楚量化为什么能抗遗忘以及为什么偏偏是 8 位这两个最让人好奇的问题。读完你就能判断自己的持续学习场景适不适合直接抄这个方案。1. 一篇反直觉的发现精度越模糊记忆反而越牢1.1 论文把问题压缩成了什么形态先把这个研究摆到具体场景里。假设你已经有一个在大规模通用数据上训练好的底座模型它能回答常识问题、做数学推理、写代码。现在产品需要你按顺序给它补三批能力先批一批对话规范数据再批一批行业问答数据最后批一批代码数据。这就是最常见的持续学习流程任务一个接一个来旧任务的数据通常不会重新出现。在这个流程里最头疼的不是新任务学不会而是学完第三个任务之后第一个任务的能力掉得没法看。这就是灾难性遗忘。以前的做法无非是回放旧数据、加正则惩罚、或者冻结底座只训练 LoRA 之类的低秩适配器。这篇论文的出发点其实特别朴素如果上面这些机制全都不做只是把模型改动自身的自由度强行压低——具体来说就是把全部权重固定为 8 位整数——遗忘率会不会降低实验答案是会而且低得相当明显。这里有一个容易误读的地方论文不是说量化精度损失让模型变笨所以新任务也学不好自然忘不了旧任务。不是这种糊弄人的结论。从论文里的数据看8 位量化下新任务的学习效果只是轻微受损但旧任务的保持度大幅提升把两个指标加权起来看综合表现反而优于所有在浮点空间里做的对比方法。这才是少即是多真正成立的地方省下来的不是新任务的性能而是旧知识的记忆。1.2 一个值得反复琢磨的反常细节让我再说一个最反常的细节。量化本身是有损操作8 位量化后模型在单个任务上的能力一般来说会比浮点版本略差。按这个逻辑在持续学习里量化应该加剧遗忘才对——毕竟旧任务的表征也被量化损耗破坏了。但论文的观察恰恰反过来把模型量化到 8 位之后在量化空间里继续微调旧任务性能的掉落曲线变得非常平缓甚至比那些带着防遗忘正则的浮点模型还要平滑。我读的时候一直在想中间到底发生了什么。后来发现关键就藏在量化取整这个看似损失精度的操作里。它在这篇论文的场景里扮演的角色有点像给模型的所有参数装了一道保险丝不是所有的梯度更新都能真的改到权重——小于一定幅度的修改会被直接忽略。先把结论放在这里精度越模糊记忆反而越牢这个反常背后有明确的数学机制不是什么玄学。要理解它得先把持续学习本身的困境讲透。2. 持续学习的死结为什么学新和守旧天生打架2.1 从梯度视角看灾难性遗忘想理解这篇论文的价值先得把持续学习的老问题彻底想透。大模型的权重本质上是一个高维向量每一批训练数据都会产生一个梯度梯度告诉模型往哪个方向调整能更好拟合当前数据。当你训练任务 B 的时候梯度只会关心任务 B 的损失能不能降下去它才不管这个调整会不会破坏任务 A 需要的特征。问题在于任务 A 的知识并不存储在某一个特定的神经元里而是分散在大量参数的协同模式中。浮点精度下每一轮更新每个参数都会发生一个微小的变化。一两个参数的变化看不出影响但成千上万个参数各自漂移一点整个特征的组合方式就会偏掉。等到再用任务 A 的数据去测准确率就崩了。这不是某个别参数被破坏而是整个权重分布被一点一点推走。这里有一个核心矛盾模型必须保持足够的塑性plasticity才能学会新任务又要有足够的稳定性stability才能记住旧任务。这个矛盾在机器学习里叫 stability-plasticity dilemma。全参数微调天生偏向塑性因为更新没有任何阻碍所以这个矛盾会被放到最大。持续学习里几乎所有研究本质上都是在给这个过于灵活的训练过程踩刹车。2.2 现有方案各有各的贵应对遗忘的办法说起来不少真正好用的都有代价。我把主流思路和它们的成本整理了一下方案类别代表思路核心代价正则约束对重要参数的改动加惩罚需要额外计算参数重要性新旧任务权重难平衡超参数敏感经验回放重放旧任务的一小部分数据需要保存数据存在存储、隐私、数据分布偏移问题参数隔离LoRA、adapter、冻结部分层改变模型结构或推理路径新任务适配范围受秩限制数据蒸馏用旧模型的输出去约束新模型需要维护旧模型训练开销翻倍这并不是说这些方法不行——实践证明它们都很能打。但问题是它们全都属于显式防御要么额外存东西要么额外算东西要么额外改结构。量化持续学习提供的是另一条路径——隐式防御什么都不加什么都不改只是把权重更新的物理空间从连续变成离散。防御效果不是靠某个正则项加出来的而是靠量化取整这个操作在每一步反向传播里天然产生的。对我来说这种不加任何东西就能抗遗忘的思路价值不只是更好用而是它提醒我们持续学习不一定需要专门机制可能只需要限制模型改动自己的能力。3. 量化抗遗忘的本质权重更新中的死区效应3.1 8位量化到底做了什么先补一点量化基础。8 位量化把一组浮点权重映射到 256 个整数档位上。以最常见的非对称量化为例对某个权重张量先找到它的最小值和最大值然后计算缩放系数 scale (max - min) / 255每个权重 w 的量化结果是q round((w - min) / scale)推理时再反量化回近似浮点w q * scale min。这一步就是模型体积变小、推理变快的原因——整数运算比浮点运算快得多、省得多。但论文真正关注的是把这个量化过程放到训练里会发生什么。如果我们在微调时让权重始终保留在整数域那么每一轮更新就不再是浮点数加一个小数这么顺滑而是# 量化域持续学习的简化伪代码示意 scale (w_max - w_min) / 255 w_q round((w - w_min) / scale) # 前向使用量化权重 grad compute_gradient(w_q) # 反传计算梯度 delta round(-lr * grad / scale) # 把浮点梯度换算成整数步长 w_q w_q delta # 权重只在整数域累加这个流程里有一个极其关键的数学事实当 -lr * grad 的真实数值小于半个 scale 的时候round 之后 delta 就等于 0。也就是说你对模型做的这次梯度更新对权重来说等于什么都没做。3.2 死区把微小梯度拒之门外的信号阀这个做了更新但权重没变的区间在量化领域叫死区dead zone。死区的大小是量化步长的一半也就是 scale/2。浮点训练里没有死区任意小的梯度都能让权重发生改变哪怕只改 1e-7也会累积到权重分布里。8 位量化训练里小于半步长的更新被直接截断。为什么这个机制对持续学习这么重要因为在持续学习过程中绝大多数权重每轮收到的真实梯度幅度都很小——它们对应的能力已经被模型掌握梯度只是在做轻微修正或者干脆是批次之间的随机噪声。浮点训练里这种微小梯度被忠实地写入权重日积月累就变成了旧任务表征漂移的来源。8 位训练里这些微小梯度大部分够不到死区阈值直接被丢掉了。模型每轮真正发生改变的只有那些收到了足够大梯度的参数。想一想这像什么像在坡地上挖了一条排水沟雨小的时候水流顺着原来的沟渠走不会漫出来冲刷路面只有暴雨级别的水量才会越过沟沿改变地形。量化死区就是那道沟沿。新任务的学习会产生大量暴雨级梯度它们能越过阈值、改变权重旧任务维持所需的微小调整则被沟沿挡住权重稳稳留在原地。3.3 为什么离散更新能保住旧知识更进一步可以把量化训练看成一种带阈值的稀疏更新它和很多抗遗忘方法在精神上是相通的。研究者早就发现限制每轮只更新少量参数、或者随机冻结一部分参数可以降低遗忘——因为旧知识只在少数权重里被扰动。量化训练本质上实现了同样的效果但它不需要提前知道哪些参数重要也不需要显式的掩码。它的筛选逻辑完全由梯度幅度决定大梯度改小梯度不动。还有一个容易被忽略的附带作用量化取整本身引入了微小的确定性噪声。在持续学习里这种噪声相当于对梯度做了一次轻量正则化抑制模型对新任务分布的过度拟合。新任务学得没那么激进对旧任务的挤压自然也小。可以把这些都总结成一句话量化在压缩模型能力的同时也在给模型踩刹车让它不要轻易改动自己已经学会的东西。读论文的时候我特别注意到一个消融它几乎是整个机制成立的实锤如果把模型先量化到 8 位、然后再转回高精度去微调抗遗忘效果立刻消失了遗忘率跟从头到尾用高精度微调几乎一样。这说明问题不在初始低精度权重这个状态而在于训练过程必须持续经过量化取整。换句话说保护来自每一步的离散更新不来自出发时已经丢了精度。这一点非常关键后面实验部分我还会再提。4. 为什么偏偏是8位4位太钝、16位太灵、8位正好4.1 不同位宽下的遗忘-学习权衡死区效应的强度直接由位宽决定。位宽越低量化步长越大死区越宽权重越难变动位宽越高死区越窄更新越接近浮点。论文实验里通常会把 4 位、8 位、16 位、32 位放在同一套任务序列里对比结果呈现出非常清晰的中部最优规律位宽初始精度损失死区宽度新任务学习旧任务保持综合表现4 位大宽差强但保住的是受损知识差8 位小适中好强最佳16 位极小极窄好差差32 位无无好差差这组现象可以解释得很机械。先说 4 位。4 位量化只有 16 个档位量化误差从一开始就太大模型还没开始持续学习旧知识已经被量化损耗伤了一轮。训练时死区又宽又深新任务需要的大部分更新都被卡在阈值以下结果就是新任务学不进去旧任务也谈不上保持——因为保持住的是一份已经被严重压缩的知识。遗忘率数字可能好看但平均准确率整体被拉得很低。再说 16 位和 32 位。它们的问题正好相反死区太小小到近乎不存在。任何梯度都能改变任何权重模型对任务 B 的拟合过程同时也在无差别地改写任务 A 的特征。所以在持续性上它们都表现得很差跟标准全参数微调没有本质区别。8 位恰好卡在中间。它的量化误差小到不伤害模型原本的能力死区的宽度又足以挡住训练过程中的背景噪声梯度。结果就是它同时拿到了不错的新任务学习能力和优秀的旧知识保持能力。如果拿汽车做类比32 位是光溜赛道上的跑车加速猛但刹车差4 位是陷在烂泥里的越野车想走走不动8 位是日常代步车够用且稳定。持续学习需要的本来就不是极限速度而是全程不出乱子的平均成绩。4.2 量化粒度位宽之外的另一个旋钮这里我想多说一个论文里容易被略过、但实操中很关键的细节同样的 8 位按张量量化、按行/按通道量化、按更细的分组量化死区大小是不一样的。按通道量化时每个通道有自己的 scale细粒度越高参数的取值范围越窄scale 越小死区也越小。论文里如果对比了不同粒度一般会发现细粒度 8 位的新任务学习更好但遗忘保护会弱一些粗粒度的 8 位遗忘保护更强但新任务略吃力。这说明8 位并不是一个绝对的最优值而是一条权衡曲线上的推荐点。真正决定抗遗忘强度的是死区宽度相对于梯度分布的位置。如果你希望更强的保护可以下调位宽或者用更粗的量化粒度如果你更担心新任务学不好就上调位宽或者用更细的粒度。我自己的经验是先按默认的逐层 8 位跑一轮看新任务和旧任务哪个掉得更多再往相反方向拧一个档位比上来就调各种正则参数直观得多。5. 论文实验拆解一组值得反复看的数字5.1 实验编排任务序列、指标与基线为了说明泛化能力论文的实验编排通常不会只用一两个数据集。按我的理解这类持续学习实验一般会在一个通用底座模型上安排 6 到 8 个不同方向的任务构成一条任务链。每个任务完成一轮微调后立即用全部历史任务的测试集评估一遍。这样就能同时看到两个关键数字新任务学得怎么样旧任务还记得多少。衡量指标方面论文通常报告两个平均准确率Average Accuracy和遗忘率Forgetting。平均准确率是把所有历史任务在最终模型上的准确率取平均反映总体记忆水平遗忘率则是每个旧任务相对其刚学完时的峰值准确率下降了多少再取平均数值越低说明越不健忘。这两个指标必须一起看——只看遗忘率会忽略新任务没学好的情况只看平均准确率又会掩盖旧任务崩溃的严重程度。对比基线一般包括全参数浮点微调很容易忘、带正则惩罚的微调基于参数重要性的思想、带经验回放的微调重放 10% 左右的旧样本、以及只训练 LoRA 一类低秩适配器的方法。把这个矩阵跑完才能回答量化抗遗忘是不是真的比现有的专用方法更好。5.2 核心结果平均准确率与遗忘率的对照这类实验的最终结果一般来说会呈现出下面这样一组趋势具体数字不同论文有差异这里描述的是我读这篇论文时留下的整体印象方法平均准确率遗忘率额外成本全参数浮点微调中低高无正则约束微调中中需计算参数重要性经验回放10% 旧数据高低需保存数据低秩适配LoRA 类中高中低需设计适配器结构8 位量化域持续学习高低仅需保持量化训练其中最值得我注意的不是 8 位排名第一而是它跟经验回放之间的对比。回放是被验证过非常有效的抗遗忘手段但它必须持续保存一批旧数据、还要保证这些数据在训练中反复出现在数据隐私敏感或存储受限的场景里根本没法用。8 位量化域持续学习不需要任何旧数据却能达到接近甚至超过回放的效果。这个发现的实际价值在于它给了很多没法回放的场景一个免费的选择。当然 8 位也不是没有短板在单独的新任务性能上8 位量化通常比全参数浮点微调低一两个点。它的优势体现在组合指标上——新任务掉一点点旧任务保住一大截总体平均准确率反而最高。这个结论提醒我们在线下评估一个持续学习方案时千万别只盯着最后一个新任务的指标看。5.3 消融实验证明机制在人不在初始值前面我说过论文里有一个消融是理解整个机制的关键把模型先量化成 8 位然后马上转回浮点继续微调。这个变体的遗忘率会立刻升到和全程浮点微调差不多的水平完全失去保护作用。为什么因为一旦离开整数域每次更新又可以无差别地动到 0.0001 级别的权重那些微小漂移重新开始积累。这个对照干净利落地证明8 位带来的抗遗忘不是初始条件好的运气而是量化取整这个运算持续存在的结果。所以把它落地到代码里的正确姿势就是让前向传播始终在量化权重上进行。另一个常见的消融是位宽扫描。4 位、8 位、16 位、32 位四档曲线一拉出来8 位的优势特别突出。有的论文还会再补一个先浮点学完所有任务最后统一量化部署的对照组——这种事后量化在持续学习上的表现其实也不错因为它天然就不会再有训练更新了但它解决的是部署问题不是训练中的遗忘问题。两者要分清论文讨论的是训练过程层面的保护部署层面的量化是另一个故事。6. 对日常微调工作的启发与这篇论文的边界6.1 可以直接抄的三条实践建议第一个可以立刻落地的改变如果你的微调流程最终本来就要以 8 位模型上线那就别再把量化当成最后一步直接从 8 位底座开始做指令微调。这样做的推理开销不增加反而白捡一层防遗忘保护。我在实际项目中试过类似的流程一个明显的好处是后续每增加一批新数据、想出一个新任务都不太需要担心前面教过的能力悄悄消失。第二个建议是把 8 位量化微调和低秩适配结合起来。冻结 8 位底座只训练 LoRA 之类的适配器相当于在死区保护之外再加一层结构保护。论文本身的实验也显示量化底座 适配器的组合比单独用任一种都更稳。这种组合的实现成本很低主流模型生态里基本都有现成工具只需要注意训练时别让底座权重被自动转回高精度。第三个建议是盯住两个指标不要只看新任务。我见过太多团队在持续学习场景里只看最后一个任务或者最新任务集的指标结果模型看起来一路在涨往回一测才发现最早的能力已经掉了一半。建议每轮训练结束后都跑一遍全量历史任务的评估把平均准确率和遗忘率两个数字打印出来跟踪。直接借用论文里的指标来管理自己的模型迭代是我认为这篇论文最容易被带走的实用价值。注意这个方案的前提是训练全程保持量化域更新。如果中间任何一步把权重转回浮点死区保护就会消失前面的努力等于白做。6.2 论文的边界什么情况下少即是多会失效还有一个问题必须说清楚8 位量化不是持续学习的万能开关。论文里的任务序列通常只有个位数到十几个任务而且任务之间还是有一定相关性的。如果任务链很长、任务跨度极大比如前一阶段全部是中文文本下一阶段直接换到完全不同的语言8 位死区能不能扛住整体梯度的冲击目前证据还不够充分。理论上只要新任务的梯度足够强权重一样会被大幅改写旧知识还是会受损只是没有浮点那么彻底而已。另外量化训练在工程上也有不少坑。不是所有框架和硬件算子都支持整数域的梯度反传很多实现需要自定义直通估计器STE。一旦某个算子不支持训练就会报错或者悄悄退化成浮点行为。按我的经验刚开始迁移到量化域训练时最值得花时间的是老老实实核对每个关键算子的前向和反向行为而不是急着调超参。论文给了方向但把它搬到自己的训练框架里仍然需要一轮实打实的工程适配。还有一点是理论解释仍然偏直觉。为什么正好 8 位而不是 7 位或 9 位论文给的是实验证据和直观解释并没有给出一个从梯度分布推导出最优位宽的定量公式。后续如果能把这个公式补上持续学习里的量化方案就能从经验好用升级成可预测。我个人很期待看到位宽自适应、以及把量化防御与回放或蒸馏结合的进一步工作——因为现实中的持续学习很少是单一手段就能闭环的。最后说点我自己的体会。在做模型迭代时我们太习惯把更大的自由度等同于更好的效果总觉得能改的参数越多越好精度越高越好。这篇论文用一组扎扎实实的实验提醒我对一个大模型来说持续学习的主要敌人就是自身的过于灵活。8 位量化用最笨的办法——把所有权重锁在 256 个格子里——教会模型克制。保持克制当然会损失一点上限但换来的是更稳的全程表现。对我来说这是比任何花哨正则都更本质的思考方式。如果你的工作正好也在做多个任务顺序微调同一个模型的事我建议你抽出半个小时把这个方案在自己的底座上跑一遍对比。成本很低但结果可能会让你重新审视精度越高越好这个默认假设。
复杂度的完整推导)
