简介本资源为基于知识蒸馏的目标检测模型增量深度学习方法的Python源码面向人工智能、计算机视觉方向的学生与开发者适合作为毕业设计、课程设计或算法进阶练习帮助理解如何在旧模型基础上通过知识蒸馏缓解灾难性遗忘、实现目标检测模型的增量更新。压缩包共476个文件约5.99MB以189个py源码与192个pyc编译文件为核心辅以xml标注、jpg与png图像、so与o等编译产物、c与pyx扩展源码及docx运行说明结构完整便于复现。资源内附多份运行说明文档覆盖VGG16知识蒸馏、剪枝及simple-faster-rcnn等实验流程可帮助读者快速跑通训练与推理、理解蒸馏损失与特征对齐的实现细节。目前已有262人学习下载代码经测试运行成功适合在此基础上修改扩展用于毕设、课设或项目初期立项演示。1. 知识蒸馏做增量检测为什么你的模型越训越忘你手里有一个在 COCO 上跑得不错的 YOLO 检测器产线突然要加三个新类别——螺丝松动、绝缘子破损、表盘读数异常。最直觉的做法是拿新数据接着训结果一测老类别的 mAP 掉了十几个点新类别也没学好。这就是增量深度学习里最经典的灾难性遗忘网络参数被新任务拉走旧任务的决策边界直接塌了。知识蒸馏在这里的角色不是压缩模型而是当“记忆锚点”。它让旧模型教师在训练新数据时持续输出软标签约束新模型学生别把旧知识丢干净。标题里的“基于知识蒸馏的目标检测模型增量深度学习方法”本质就是一套用蒸馏损失对抗遗忘的训练框架配套 Python 源码通常包含教师模型加载、蒸馏损失计算、新旧数据混合采样、增量训练循环这几块。这套方案适合两类人一是手上已有检测模型、需要按批次加类别的算法工程师二是想从零理解增量检测训练流程的学生。它不解决标注质量问题也不替代数据清洗但能把“加一个新类别就重训全量”的成本压下来。下面按我实际落地的顺序拆开讲。2. 增量检测的蒸馏框架怎么搭教师、学生与损失函数2.1 为什么目标检测的蒸馏比分类难分类蒸馏只需要对齐 logits一个样本一个向量KL 散度一算就完事。检测不一样输出是三层结构分类头、回归头、objectness。而且每张图的预测框数量、位置、置信度都在变教师和学生的框根本对不上号。常见做法是在 ROI 或 anchor 层面做对齐只对教师置信度高的区域计算蒸馏损失避免背景噪声干扰。另一个坑是回归蒸馏。分类软标签有明确的概率含义回归的四个坐标值直接做 MSE 容易被异常框带偏。我一般用教师和学生在同一 anchor 上的框做加权平滑 L1权重取教师 objectness 乘以 IoU。这样低质量框的蒸馏信号自然衰减不会把学生带歪。还有一点增量学习里新旧类别数量往往不均衡。新数据可能只有几百张旧数据如果全量回放又太大。蒸馏损失要和检测损失做加权权重设不好要么遗忘严重要么新类别学不动。这个权重没有万能值后面参数章节会给一个可调的起点。2.2 教师模型的加载与冻结策略教师模型必须是旧任务上训好的权重加载后整个前向过程不参与梯度更新。很多人忘了设eval()和torch.no_grad()结果显存翻倍、训练变慢还可能出现 BatchNorm 统计量被新数据污染的问题。下面是我常用的加载骨架import torch import torch.nn as nn def build_teacher(weights_path, model_fn, device): 加载旧任务教师模型冻结全部参数 teacher model_fn(num_classesOLD_CLASSES) # 旧类别数 ckpt torch.load(weights_path, map_locationcpu) # 兼容不同保存格式有的存 state_dict有的包了一层 state ckpt.get(model, ckpt.get(state_dict, ckpt)) teacher.load_state_dict(state, strictFalse) teacher.to(device) teacher.eval() # 关闭 dropout / BN 更新 for p in teacher.parameters(): p.requires_grad False # 彻底冻结省显存 return teacher逻辑说明strictFalse是为了兼容教师和学生类别数不一致的情况检测头部分允许形状不匹配。eval()必须调否则 BN 层会用新数据的均值和方差教师输出漂移蒸馏信号就不可靠了。参数上OLD_CLASSES要和教师训练时一致weights_path指向旧任务最优权重不要用最后一次 epoch 的过拟合的教师软标签质量反而差。2.3 蒸馏损失与检测损失的组合方式学生模型同时接收两种监督新数据上的检测损失分类 回归 objectness以及新旧数据上的蒸馏损失。我一般把新旧数据按 1:1 采样进同一个 batch旧数据只算蒸馏损失新数据两种都算。这样学生每步都能看到旧任务的软标签又不会因为旧数据没有新类别标注而报错。import torch.nn.functional as F def distillation_loss(student_out, teacher_out, temperature2.0): 检测蒸馏分类 KL 回归加权平滑 L1 # student_out / teacher_out: dict含 cls_logits, reg_pred, obj_logits # 分类蒸馏温度缩放后的 KL 散度 s_cls F.log_softmax(student_out[cls_logits] / temperature, dim-1) t_cls F.softmax(teacher_out[cls_logits] / temperature, dim-1) loss_cls F.kl_div(s_cls, t_cls, reductionbatchmean) * (temperature ** 2) # 回归蒸馏用教师 objectness 做权重只蒸馏前景 anchor weight teacher_out[obj_logits].sigmoid().detach() loss_reg F.smooth_l1_loss( student_out[reg_pred], teacher_out[reg_pred], reductionnone ) loss_reg (loss_reg * weight.unsqueeze(-1)).mean() return loss_cls 0.5 * loss_reg # 回归权重先给 0.5可调逻辑说明温度temperature把软标签的分布拉平让学生学到类间相似性检测里一般取 2 到 4。temperature ** 2是标准蒸馏的梯度补偿少了这一项损失量级会偏小。回归权重 0.5 是起点如果新类别回归学得慢就降到 0.2如果旧类别框漂移就升到 1.0。weight用教师 objectness 而不是学生自己的避免学生早期乱预测污染蒸馏。总损失是loss_det lambda_distill * loss_distilllambda_distill我一般从 1.0 开始旧类别掉点就加到 2.0新类别学不动就降到 0.5。这个系数和数据集重叠度强相关没有理论最优只能试。3. 增量训练的数据组织与训练循环怎么写3.1 新旧数据混合采样别让旧数据淹没新类别增量学习最容易翻车的地方在数据管道。如果旧数据全量回放新类别样本占比可能不到 5%模型会偏向旧类别如果只放少量旧数据蒸馏又缺少足够的锚点。我的做法是维护一个旧数据子集按类别分层采样保证每个旧类别在每个 batch 里至少出现一次同时新数据按正常比例混入。from torch.utils.data import ConcatDataset, DataLoader, WeightedRandomSampler def build_incremental_loader(old_dataset, new_dataset, batch_size16): 新旧数据混合旧数据按类别分层采样 concat ConcatDataset([old_dataset, new_dataset]) # 旧数据权重略高保证蒸馏信号稳定新数据权重 1.0 weights [1.5] * len(old_dataset) [1.0] * len(new_dataset) sampler WeightedRandomSampler(weights, num_sampleslen(concat), replacementTrue) return DataLoader(concat, batch_sizebatch_size, samplersampler, collate_fndetection_collate, num_workers4)逻辑说明WeightedRandomSampler的replacementTrue允许重复采样小类别也能被反复看到。旧数据权重 1.5 是经验值如果旧类别多且每类样本少可以提到 2.0。detection_collate是检测任务专用的批处理函数负责把不同尺寸的图 padding 到同一尺寸并堆叠标注。num_workers按机器 CPU 核数设IO 瓶颈时加到 8。注意旧数据子集不要随机抽要按类别抽。我见过有人直接取旧数据前 1000 张结果某些类别一张没进蒸馏时这些类别的软标签全是背景学生直接忘了。3.2 训练循环里的教师前向与梯度控制训练循环要同时跑教师和学生两次前向。教师那次必须包在torch.no_grad()里否则显存直接爆。学生前向完算检测损失和蒸馏损失反向传播只更新学生参数。下面是一个最小可跑的循环骨架def train_one_epoch(student, teacher, loader, optimizer, device, lambda_distill1.0): student.train() for imgs, targets in loader: imgs imgs.to(device) # 教师前向不建图不更新 with torch.no_grad(): teacher_out teacher(imgs) # 学生前向 student_out student(imgs) # 检测损失只对新数据标注有效旧数据 targets 为空时自动跳过 loss_det compute_detection_loss(student_out, targets) # 蒸馏损失新旧数据都算 loss_distill distillation_loss(student_out, teacher_out) loss loss_det lambda_distill * loss_distill optimizer.zero_grad() loss.backward() # 梯度裁剪防止蒸馏和检测梯度打架导致爆炸 torch.nn.utils.clip_grad_norm_(student.parameters(), max_norm10.0) optimizer.step()逻辑说明compute_detection_loss要能处理空标注旧数据没有新类别标签但可能有旧类别标签具体看你的数据组织方式。如果旧数据只用于蒸馏targets 传空列表即可。梯度裁剪max_norm10.0是保险丝蒸馏损失和检测损失量级差太多时容易梯度爆炸裁一下更稳。lambda_distill按前面说的策略调。学习率方面增量训练不要用从头训的大学习率。我一般用旧模型最后学习率的 1/10 起步cosine 衰减到 1/100。太大直接遗忘太小新类别学不动。优化器用 SGD 或 AdamW 都行AdamW 对蒸馏这种多损失场景更稳一些。3.3 验证阶段怎么同时看新旧类别指标增量训练不能只看总 mAP要分开看旧类别和新类别的 AP。我一般每训完一个 epoch 就在旧验证集和新验证集上各跑一次记录AP_old和AP_new。如果AP_old持续下降说明蒸馏权重不够如果AP_new上不去说明蒸馏太强或新数据采样不足。def evaluate_incremental(model, old_loader, new_loader, device): model.eval() ap_old evaluate_map(model, old_loader, device) # 旧类别验证集 ap_new evaluate_map(model, new_loader, device) # 新类别验证集 return {AP_old: ap_old, AP_new: ap_new}逻辑说明evaluate_map用你惯用的检测评估函数注意类别映射要区分新旧。旧验证集只含旧类别新验证集只含新类别这样指标不会互相干扰。如果旧验证集里混了新类别AP 计算会出错。记录时把两个指标画在同一张图上能直观看到遗忘和新学的权衡。4. 避坑与排查增量蒸馏训练里最常见的 5 个翻车现场4.1 旧类别 mAP 断崖下跌新类别正常现象训练几个 epoch 后新类别 AP 稳步上升旧类别 AP 从 0.45 掉到 0.20 以下。原因蒸馏损失权重太低或者旧数据采样比例不够学生被新数据主导。另一个常见原因是教师模型本身在旧类别上就不够强软标签质量差学生学不到有用信息。解决先把lambda_distill从 1.0 提到 2.0旧数据权重从 1.5 提到 2.0。如果还掉检查教师模型在旧验证集上的 AP低于 0.35 的教师建议先重训教师再蒸馏。最后确认蒸馏损失里分类 KL 的温度是否设了 2 以上温度太低软标签接近硬标签蒸馏退化成普通训练。4.2 蒸馏损失为 NaN 或突然爆炸现象训练几十步后 loss 变成 NaN或者梯度范数飙到几百。原因分类 KL 散度里教师 softmax 出现极端值或者回归蒸馏的权重没 detach梯度回传到教师。另一个可能是温度设得太小log_softmax 数值不稳定。解决确认teacher_out全部在torch.no_grad()下产生回归权重加.detach()。温度不要低于 1.5KL 计算前对 logits 做 clamp比如torch.clamp(logits, -20, 20)。梯度裁剪max_norm10.0必须开这是最后一道防线。4.3 新类别学不动AP 长期在 0.05 以下现象旧类别保持得很好但新类别 AP 几乎不涨loss 也不降。原因蒸馏权重过大学生被旧知识绑死或者新数据采样权重太低每个 batch 里新类别样本太少也可能是新类别标注格式和旧类别不一致检测头根本没学到。解决把lambda_distill降到 0.5 甚至 0.3新数据权重提到 1.5。检查新类别标注的类别 id 是否从旧类别数之后开始不要覆盖旧 id。如果新类别样本本身很少先做数据增强或过采样蒸馏框架救不了标注不足。4.4 教师和学生输出形状对不上蒸馏直接报错现象distillation_loss里 KL 散度报维度不匹配或者回归 smooth_l1 广播失败。原因学生增量后类别数变成OLD_CLASSES NEW_CLASSES教师还是OLD_CLASSES分类 logits 维度不一致。回归头如果改了 anchor 数也会对不上。解决分类蒸馏只取前OLD_CLASSES维做 KL新类别维度不参与蒸馏。回归头保持和教师一致增量时不要动 anchor 配置。如果必须改 anchor教师输出要先做 ROI 对齐再蒸馏这个复杂度高建议增量阶段不动检测头结构。4.5 显存不够batch size 降到 1 还 OOM现象教师和学生同时前向显存直接翻倍24G 卡跑不动。原因教师前向没包no_grad计算图被保留或者教师没冻结优化器状态占显存或者输入分辨率太高。解决确认torch.no_grad()和requires_gradFalse都设了。教师可以半精度加载teacher.half()学生保持 fp32。输入分辨率增量阶段可以降到 512训完再恢复。如果还不行教师前向和学生前向分两个 batch 跑用缓存存教师输出牺牲速度换显存。5. 进阶技巧用 EMA 教师和分层蒸馏把旧知识锁得更死前面讲的都是单教师、固定权重的蒸馏。实际落地时如果旧类别多、增量轮次多固定教师会越来越弱因为教师本身没更新学生后期可能超过教师软标签反而拖后腿。我后来改用 EMA 教师每步用学生参数的指数移动平均更新教师教师始终比学生稳一点软标签质量更高。class EMATeacher: def __init__(self, student, decay0.999): self.teacher copy.deepcopy(student) self.teacher.eval() for p in self.teacher.parameters(): p.requires_grad False self.decay decay torch.no_grad() def update(self, student): for t_p, s_p in zip(self.teacher.parameters(), student.parameters()): t_p.data.mul_(self.decay).add_(s_p.data, alpha1 - self.decay)逻辑说明decay0.999是常用起点增量轮次多可以调到 0.9995让教师更新更慢。EMA 教师不需要额外训练只是参数滑动平均显存开销和普通教师一样。注意 EMA 更新要在no_grad下做且只更新浮点参数BN 的 running stats 也要同步滑动平均否则教师 BN 会漂。分层蒸馏是另一个技巧浅层特征图做 L2 蒸馏深层检测头做 KL 和回归蒸馏。浅层特征保留纹理和边缘对旧类别的通用特征保护更好。实现时在 backbone 的 C3、C4、C5 输出各加一个 1x1 卷积对齐通道数然后算 MSE。权重从浅到深递减比如 0.1、0.2、0.5检测头蒸馏权重 1.0。验证这套方案有没有效我一般看三个数旧类别 AP 下降不超过 2 个点新类别 AP 达到单独训练时的 90% 以上总训练轮次比全量重训少 60% 以上。三个都满足这套增量蒸馏就值得继续投入。如果旧类别掉超过 5 个点先回头查数据采样和蒸馏权重别急着加 EMA。我自己踩得最狠的一次是忘了给教师设eval()BN 统计量被新数据带偏旧类别 AP 掉了 8 个点排查了两天才发现是这一行的问题。增量蒸馏这活儿细节比框架重要每一步的no_grad、eval、detach都别省。希望帮到你。本文还有配套的精品资源点击获取
简介本资源为基于知识蒸馏的目标检测模型增量深度学习方法的Python源码面向人工智能、计算机视觉方向的学生与开发者适合作为毕业设计、课程设计或算法进阶练习帮助理解如何在旧模型基础上通过知识蒸馏缓解灾难性遗忘、实现目标检测模型的增量更新。压缩包共476个文件约5.99MB以189个py源码与192个pyc编译文件为核心辅以xml标注、jpg与png图像、so与o等编译产物、c与pyx扩展源码及docx运行说明结构完整便于复现。资源内附多份运行说明文档覆盖VGG16知识蒸馏、剪枝及simple-faster-rcnn等实验流程可帮助读者快速跑通训练与推理、理解蒸馏损失与特征对齐的实现细节。目前已有262人学习下载代码经测试运行成功适合在此基础上修改扩展用于毕设、课设或项目初期立项演示。1. 知识蒸馏做增量检测为什么你的模型越训越忘你手里有一个在 COCO 上跑得不错的 YOLO 检测器产线突然要加三个新类别——螺丝松动、绝缘子破损、表盘读数异常。最直觉的做法是拿新数据接着训结果一测老类别的 mAP 掉了十几个点新类别也没学好。这就是增量深度学习里最经典的灾难性遗忘网络参数被新任务拉走旧任务的决策边界直接塌了。知识蒸馏在这里的角色不是压缩模型而是当“记忆锚点”。它让旧模型教师在训练新数据时持续输出软标签约束新模型学生别把旧知识丢干净。标题里的“基于知识蒸馏的目标检测模型增量深度学习方法”本质就是一套用蒸馏损失对抗遗忘的训练框架配套 Python 源码通常包含教师模型加载、蒸馏损失计算、新旧数据混合采样、增量训练循环这几块。这套方案适合两类人一是手上已有检测模型、需要按批次加类别的算法工程师二是想从零理解增量检测训练流程的学生。它不解决标注质量问题也不替代数据清洗但能把“加一个新类别就重训全量”的成本压下来。下面按我实际落地的顺序拆开讲。2. 增量检测的蒸馏框架怎么搭教师、学生与损失函数2.1 为什么目标检测的蒸馏比分类难分类蒸馏只需要对齐 logits一个样本一个向量KL 散度一算就完事。检测不一样输出是三层结构分类头、回归头、objectness。而且每张图的预测框数量、位置、置信度都在变教师和学生的框根本对不上号。常见做法是在 ROI 或 anchor 层面做对齐只对教师置信度高的区域计算蒸馏损失避免背景噪声干扰。另一个坑是回归蒸馏。分类软标签有明确的概率含义回归的四个坐标值直接做 MSE 容易被异常框带偏。我一般用教师和学生在同一 anchor 上的框做加权平滑 L1权重取教师 objectness 乘以 IoU。这样低质量框的蒸馏信号自然衰减不会把学生带歪。还有一点增量学习里新旧类别数量往往不均衡。新数据可能只有几百张旧数据如果全量回放又太大。蒸馏损失要和检测损失做加权权重设不好要么遗忘严重要么新类别学不动。这个权重没有万能值后面参数章节会给一个可调的起点。2.2 教师模型的加载与冻结策略教师模型必须是旧任务上训好的权重加载后整个前向过程不参与梯度更新。很多人忘了设eval()和torch.no_grad()结果显存翻倍、训练变慢还可能出现 BatchNorm 统计量被新数据污染的问题。下面是我常用的加载骨架import torch import torch.nn as nn def build_teacher(weights_path, model_fn, device): 加载旧任务教师模型冻结全部参数 teacher model_fn(num_classesOLD_CLASSES) # 旧类别数 ckpt torch.load(weights_path, map_locationcpu) # 兼容不同保存格式有的存 state_dict有的包了一层 state ckpt.get(model, ckpt.get(state_dict, ckpt)) teacher.load_state_dict(state, strictFalse) teacher.to(device) teacher.eval() # 关闭 dropout / BN 更新 for p in teacher.parameters(): p.requires_grad False # 彻底冻结省显存 return teacher逻辑说明strictFalse是为了兼容教师和学生类别数不一致的情况检测头部分允许形状不匹配。eval()必须调否则 BN 层会用新数据的均值和方差教师输出漂移蒸馏信号就不可靠了。参数上OLD_CLASSES要和教师训练时一致weights_path指向旧任务最优权重不要用最后一次 epoch 的过拟合的教师软标签质量反而差。2.3 蒸馏损失与检测损失的组合方式学生模型同时接收两种监督新数据上的检测损失分类 回归 objectness以及新旧数据上的蒸馏损失。我一般把新旧数据按 1:1 采样进同一个 batch旧数据只算蒸馏损失新数据两种都算。这样学生每步都能看到旧任务的软标签又不会因为旧数据没有新类别标注而报错。import torch.nn.functional as F def distillation_loss(student_out, teacher_out, temperature2.0): 检测蒸馏分类 KL 回归加权平滑 L1 # student_out / teacher_out: dict含 cls_logits, reg_pred, obj_logits # 分类蒸馏温度缩放后的 KL 散度 s_cls F.log_softmax(student_out[cls_logits] / temperature, dim-1) t_cls F.softmax(teacher_out[cls_logits] / temperature, dim-1) loss_cls F.kl_div(s_cls, t_cls, reductionbatchmean) * (temperature ** 2) # 回归蒸馏用教师 objectness 做权重只蒸馏前景 anchor weight teacher_out[obj_logits].sigmoid().detach() loss_reg F.smooth_l1_loss( student_out[reg_pred], teacher_out[reg_pred], reductionnone ) loss_reg (loss_reg * weight.unsqueeze(-1)).mean() return loss_cls 0.5 * loss_reg # 回归权重先给 0.5可调逻辑说明温度temperature把软标签的分布拉平让学生学到类间相似性检测里一般取 2 到 4。temperature ** 2是标准蒸馏的梯度补偿少了这一项损失量级会偏小。回归权重 0.5 是起点如果新类别回归学得慢就降到 0.2如果旧类别框漂移就升到 1.0。weight用教师 objectness 而不是学生自己的避免学生早期乱预测污染蒸馏。总损失是loss_det lambda_distill * loss_distilllambda_distill我一般从 1.0 开始旧类别掉点就加到 2.0新类别学不动就降到 0.5。这个系数和数据集重叠度强相关没有理论最优只能试。3. 增量训练的数据组织与训练循环怎么写3.1 新旧数据混合采样别让旧数据淹没新类别增量学习最容易翻车的地方在数据管道。如果旧数据全量回放新类别样本占比可能不到 5%模型会偏向旧类别如果只放少量旧数据蒸馏又缺少足够的锚点。我的做法是维护一个旧数据子集按类别分层采样保证每个旧类别在每个 batch 里至少出现一次同时新数据按正常比例混入。from torch.utils.data import ConcatDataset, DataLoader, WeightedRandomSampler def build_incremental_loader(old_dataset, new_dataset, batch_size16): 新旧数据混合旧数据按类别分层采样 concat ConcatDataset([old_dataset, new_dataset]) # 旧数据权重略高保证蒸馏信号稳定新数据权重 1.0 weights [1.5] * len(old_dataset) [1.0] * len(new_dataset) sampler WeightedRandomSampler(weights, num_sampleslen(concat), replacementTrue) return DataLoader(concat, batch_sizebatch_size, samplersampler, collate_fndetection_collate, num_workers4)逻辑说明WeightedRandomSampler的replacementTrue允许重复采样小类别也能被反复看到。旧数据权重 1.5 是经验值如果旧类别多且每类样本少可以提到 2.0。detection_collate是检测任务专用的批处理函数负责把不同尺寸的图 padding 到同一尺寸并堆叠标注。num_workers按机器 CPU 核数设IO 瓶颈时加到 8。注意旧数据子集不要随机抽要按类别抽。我见过有人直接取旧数据前 1000 张结果某些类别一张没进蒸馏时这些类别的软标签全是背景学生直接忘了。3.2 训练循环里的教师前向与梯度控制训练循环要同时跑教师和学生两次前向。教师那次必须包在torch.no_grad()里否则显存直接爆。学生前向完算检测损失和蒸馏损失反向传播只更新学生参数。下面是一个最小可跑的循环骨架def train_one_epoch(student, teacher, loader, optimizer, device, lambda_distill1.0): student.train() for imgs, targets in loader: imgs imgs.to(device) # 教师前向不建图不更新 with torch.no_grad(): teacher_out teacher(imgs) # 学生前向 student_out student(imgs) # 检测损失只对新数据标注有效旧数据 targets 为空时自动跳过 loss_det compute_detection_loss(student_out, targets) # 蒸馏损失新旧数据都算 loss_distill distillation_loss(student_out, teacher_out) loss loss_det lambda_distill * loss_distill optimizer.zero_grad() loss.backward() # 梯度裁剪防止蒸馏和检测梯度打架导致爆炸 torch.nn.utils.clip_grad_norm_(student.parameters(), max_norm10.0) optimizer.step()逻辑说明compute_detection_loss要能处理空标注旧数据没有新类别标签但可能有旧类别标签具体看你的数据组织方式。如果旧数据只用于蒸馏targets 传空列表即可。梯度裁剪max_norm10.0是保险丝蒸馏损失和检测损失量级差太多时容易梯度爆炸裁一下更稳。lambda_distill按前面说的策略调。学习率方面增量训练不要用从头训的大学习率。我一般用旧模型最后学习率的 1/10 起步cosine 衰减到 1/100。太大直接遗忘太小新类别学不动。优化器用 SGD 或 AdamW 都行AdamW 对蒸馏这种多损失场景更稳一些。3.3 验证阶段怎么同时看新旧类别指标增量训练不能只看总 mAP要分开看旧类别和新类别的 AP。我一般每训完一个 epoch 就在旧验证集和新验证集上各跑一次记录AP_old和AP_new。如果AP_old持续下降说明蒸馏权重不够如果AP_new上不去说明蒸馏太强或新数据采样不足。def evaluate_incremental(model, old_loader, new_loader, device): model.eval() ap_old evaluate_map(model, old_loader, device) # 旧类别验证集 ap_new evaluate_map(model, new_loader, device) # 新类别验证集 return {AP_old: ap_old, AP_new: ap_new}逻辑说明evaluate_map用你惯用的检测评估函数注意类别映射要区分新旧。旧验证集只含旧类别新验证集只含新类别这样指标不会互相干扰。如果旧验证集里混了新类别AP 计算会出错。记录时把两个指标画在同一张图上能直观看到遗忘和新学的权衡。4. 避坑与排查增量蒸馏训练里最常见的 5 个翻车现场4.1 旧类别 mAP 断崖下跌新类别正常现象训练几个 epoch 后新类别 AP 稳步上升旧类别 AP 从 0.45 掉到 0.20 以下。原因蒸馏损失权重太低或者旧数据采样比例不够学生被新数据主导。另一个常见原因是教师模型本身在旧类别上就不够强软标签质量差学生学不到有用信息。解决先把lambda_distill从 1.0 提到 2.0旧数据权重从 1.5 提到 2.0。如果还掉检查教师模型在旧验证集上的 AP低于 0.35 的教师建议先重训教师再蒸馏。最后确认蒸馏损失里分类 KL 的温度是否设了 2 以上温度太低软标签接近硬标签蒸馏退化成普通训练。4.2 蒸馏损失为 NaN 或突然爆炸现象训练几十步后 loss 变成 NaN或者梯度范数飙到几百。原因分类 KL 散度里教师 softmax 出现极端值或者回归蒸馏的权重没 detach梯度回传到教师。另一个可能是温度设得太小log_softmax 数值不稳定。解决确认teacher_out全部在torch.no_grad()下产生回归权重加.detach()。温度不要低于 1.5KL 计算前对 logits 做 clamp比如torch.clamp(logits, -20, 20)。梯度裁剪max_norm10.0必须开这是最后一道防线。4.3 新类别学不动AP 长期在 0.05 以下现象旧类别保持得很好但新类别 AP 几乎不涨loss 也不降。原因蒸馏权重过大学生被旧知识绑死或者新数据采样权重太低每个 batch 里新类别样本太少也可能是新类别标注格式和旧类别不一致检测头根本没学到。解决把lambda_distill降到 0.5 甚至 0.3新数据权重提到 1.5。检查新类别标注的类别 id 是否从旧类别数之后开始不要覆盖旧 id。如果新类别样本本身很少先做数据增强或过采样蒸馏框架救不了标注不足。4.4 教师和学生输出形状对不上蒸馏直接报错现象distillation_loss里 KL 散度报维度不匹配或者回归 smooth_l1 广播失败。原因学生增量后类别数变成OLD_CLASSES NEW_CLASSES教师还是OLD_CLASSES分类 logits 维度不一致。回归头如果改了 anchor 数也会对不上。解决分类蒸馏只取前OLD_CLASSES维做 KL新类别维度不参与蒸馏。回归头保持和教师一致增量时不要动 anchor 配置。如果必须改 anchor教师输出要先做 ROI 对齐再蒸馏这个复杂度高建议增量阶段不动检测头结构。4.5 显存不够batch size 降到 1 还 OOM现象教师和学生同时前向显存直接翻倍24G 卡跑不动。原因教师前向没包no_grad计算图被保留或者教师没冻结优化器状态占显存或者输入分辨率太高。解决确认torch.no_grad()和requires_gradFalse都设了。教师可以半精度加载teacher.half()学生保持 fp32。输入分辨率增量阶段可以降到 512训完再恢复。如果还不行教师前向和学生前向分两个 batch 跑用缓存存教师输出牺牲速度换显存。5. 进阶技巧用 EMA 教师和分层蒸馏把旧知识锁得更死前面讲的都是单教师、固定权重的蒸馏。实际落地时如果旧类别多、增量轮次多固定教师会越来越弱因为教师本身没更新学生后期可能超过教师软标签反而拖后腿。我后来改用 EMA 教师每步用学生参数的指数移动平均更新教师教师始终比学生稳一点软标签质量更高。class EMATeacher: def __init__(self, student, decay0.999): self.teacher copy.deepcopy(student) self.teacher.eval() for p in self.teacher.parameters(): p.requires_grad False self.decay decay torch.no_grad() def update(self, student): for t_p, s_p in zip(self.teacher.parameters(), student.parameters()): t_p.data.mul_(self.decay).add_(s_p.data, alpha1 - self.decay)逻辑说明decay0.999是常用起点增量轮次多可以调到 0.9995让教师更新更慢。EMA 教师不需要额外训练只是参数滑动平均显存开销和普通教师一样。注意 EMA 更新要在no_grad下做且只更新浮点参数BN 的 running stats 也要同步滑动平均否则教师 BN 会漂。分层蒸馏是另一个技巧浅层特征图做 L2 蒸馏深层检测头做 KL 和回归蒸馏。浅层特征保留纹理和边缘对旧类别的通用特征保护更好。实现时在 backbone 的 C3、C4、C5 输出各加一个 1x1 卷积对齐通道数然后算 MSE。权重从浅到深递减比如 0.1、0.2、0.5检测头蒸馏权重 1.0。验证这套方案有没有效我一般看三个数旧类别 AP 下降不超过 2 个点新类别 AP 达到单独训练时的 90% 以上总训练轮次比全量重训少 60% 以上。三个都满足这套增量蒸馏就值得继续投入。如果旧类别掉超过 5 个点先回头查数据采样和蒸馏权重别急着加 EMA。我自己踩得最狠的一次是忘了给教师设eval()BN 统计量被新数据带偏旧类别 AP 掉了 8 个点排查了两天才发现是这一行的问题。增量蒸馏这活儿细节比框架重要每一步的no_grad、eval、detach都别省。希望帮到你。本文还有配套的精品资源点击获取
