简介面向人工智能与深度学习课程学习者及智能计算系统实验实践者这份资料围绕 VGG19 图像分类任务提供从模型加载、图像预处理到前向推理与准确率评估的完整实验支撑适合希望理解卷积神经网络结构、INT8 量化与异构硬件部署的中级学习者。压缩包共 4 个文件约 95.86MB由 3 个 Python 评估脚本和 1 个 INT8 量化模型文件组成脚本分别对应 CPU 与 MLU 平台的推理评估模型文件可直接加载用于分类实验便于对照两种硬件环境的运行表现。已有 2154 人学习下载。通过包内材料读者可复现 VGG19 的推理流程观察卷积、池化、全连接与 Softmax 各环节的输出并对比 CPU 与硬件加速器在速度和能效上的差异进而掌握模型轻量化与部署优化的基本思路。1. 数据先行的 VGG19 图像分类别急着把预训练模型塞进 DataLoader带新人做这个智能计算实验时最常见的翻车点不是 VGG19 有多深而是数据目录还没理顺就直接model.fit。这套基于 VGG19 的图像分类实验核心不是从零训练 19 层卷积而是借预训练特征做迁移学习把大规模视觉任务里学到的边缘、纹理、局部形状迁移到自己的类别上。它适合刚接触人工智能实验、需要一份能跑通的训练评估闭环的人也适合想检查自己迁移学习参数是否合理的熟手。先把数据划分、输入尺寸、归一化这三件事做对后面调分类头和冻结层才有意义。2. 数据管线和预处理把 ImageFolder 拆成可复现的 train/val/test2.1 先分层划分再谈 random_splitImageFolder读目录很方便但直接把整个目录丢给random_split有两个隐患类别不平衡时验证集可能缺类同一张图的不同副本也可能跨集合泄漏。我一般先扫描目录统计每类数量再按类别分层切 train/val/test并把划分结果写成固定清单。这样每次实验读的是同一份清单调参时不会出现“换了个随机种子指标就漂”的玄学问题。下面脚本只做两件事统计每个类别文件数按 8:1:1 分层划分并写出 csv。路径、随机种子、比例都放在参数区换数据集只改这里。import csv, random from pathlib import Path from collections import defaultdict data_root Path(data/raw) # 原始目录data/raw/类别名/图片 out_csv Path(data/split.csv) # 划分清单 seed 42 ratios (0.8, 0.1, 0.1) # train/val/test random.seed(seed) by_cls defaultdict(list) for p in data_root.rglob(*): if p.suffix.lower() in {.jpg, .jpeg, .png, .bmp}: by_cls[p.parent.name].append(p) rows [] for cls, files in by_cls.items(): random.shuffle(files) n len(files) n_train int(n * ratios[0]) n_val int(n * ratios[1]) for i, p in enumerate(files): split train if i n_train else (val if i n_train n_val else test) rows.append([str(p), cls, split]) out_csv.parent.mkdir(parentsTrue, exist_okTrue) with out_csv.open(w, newline, encodingutf-8) as f: csv.writer(f).writerows(rows) print(fimages{len(rows)}, classes{len(by_cls)})逻辑说明先按类别聚合文件再在类内打乱保证每个类别都按比例进入三个集合。ratios是每类内部的切分比例不是全量比例类别极少时int()可能把 val 切成 0需要把ratios调成 0.7/0.15/0.15 或对每类保底 1 张验证图。seed必须固定否则同一份数据每次划分不同指标无法横向比较。参数建议值说明输入尺寸224×224VGG19 分类头按 7×7×512 接全连接尺寸改太大显存涨得快训练裁剪RandomResizedCrop(224, scale(0.7, 1.0))保留主体又带一点尺度扰动验证裁剪Resize(256) CenterCrop(224)验证阶段不做随机增强保证可复现归一化ImageNet mean/std预训练权重按这套统计量训练换掉容易掉点batch size16 或 32显存不够先降 batch再考虑冻结更多层2.2 transform 的训练/验证差异要写死VGG19 的输入是 224×224预训练权重配套的归一化是mean[0.485,0.456,0.406]、std[0.229,0.224,0.225]。训练侧可以做随机裁剪、水平翻转和轻量颜色扰动验证侧只做 resize、中心裁剪和归一化。很多人验证集指标虚高不是模型强而是验证集误用了训练增强同一张图被随机裁到不同区域评估结果自然不可比。from torchvision import transforms train_tf transforms.Compose([ transforms.RandomResizedCrop(224, scale(0.7, 1.0)), transforms.RandomHorizontalFlip(p0.5), transforms.ColorJitter(brightness0.15, contrast0.15, saturation0.1), transforms.ToTensor(), transforms.Normalize([0.485, 0.456, 0.406], [0.229, 0.224, 0.225]), ]) val_tf transforms.Compose([ transforms.Resize(256), transforms.CenterCrop(224), transforms.ToTensor(), transforms.Normalize([0.485, 0.456, 0.406], [0.229, 0.224, 0.225]), ])逻辑说明RandomResizedCrop的scale下限不要压得太低0.5 以下会把主体裁掉小数据集上反而让损失震荡。ColorJitter只做轻微扰动医疗、工业缺陷这类颜色敏感任务可以关掉饱和度项。Resize(256)再CenterCrop(224)是常见做法比直接Resize((224,224))更接近预训练时的构图。2.3 DataLoader 的 batch、worker 和均衡采样数据清单有了下一步是把 csv 读成 Dataset。这里不建议直接ImageFolder加random_split因为清单已经固定用自定义 Dataset 读 csv 更稳。num_workers不是越大越好Windows 或容器里开到 8 有时会在第一个 epoch 卡住先从 2 或 4 试。pin_memoryTrue在 GPU 训练时能减少拷贝等待CPU 训练就不用开。import pandas as pd from PIL import Image from torch.utils.data import Dataset, DataLoader class CsvImageDataset(Dataset): def __init__(self, csv_path, split, transform, classesNone): df pd.read_csv(csv_path) self.df df[df[split] split].reset_index(dropTrue) self.transform transform self.classes classes or sorted(self.df[label].unique()) self.cls_to_idx {c: i for i, c in enumerate(self.classes)} def __len__(self): return len(self.df) def __getitem__(self, idx): row self.df.iloc[idx] img Image.open(row[path]).convert(RGB) return self.transform(img), self.cls_to_idx[row[label]] train_ds CsvImageDataset(data/split.csv, train, train_tf) val_ds CsvImageDataset(data/split.csv, val, val_tf, train_ds.classes) train_loader DataLoader(train_ds, batch_size32, shuffleTrue, num_workers4, pin_memoryTrue, drop_lastTrue) val_loader DataLoader(val_ds, batch_size32, shuffleFalse, num_workers4, pin_memoryTrue)逻辑说明classes从训练集固定后传给验证集避免验证集出现训练集没有的类别导致索引错位drop_lastTrue只在训练集开防止最后一个 batch 只有 1 张图时 BatchNorm 统计量抖动。convert(RGB)必须加灰度图或带 alpha 通道的 png 直接进模型会在卷积层报通道数不匹配。类别明显不平衡时可以给WeightedRandomSampler按类频倒数配权重但验证集仍然保持自然分布不要跟着重采样。2.4 训练前先看一个 batch正式跑训练循环前我习惯先取一个 batch 检查三件事张量形状是不是[B,3,224,224]、标签范围是不是在[0,num_classes)、归一化后的像素均值是否大致在 0 附近。这个检查花不了一分钟却能提前拦住“通道顺序反了”“标签从 1 开始”“图片全是黑图”这类低级错误。import torch imgs, labels next(iter(train_loader)) print(imgs.shape, imgs.dtype, imgs.min().item(), imgs.max().item()) print(labels[:8], labels.min().item(), labels.max().item()) assert imgs.shape[1:] (3, 224, 224) assert labels.min() 0 and labels.max() len(train_ds.classes)逻辑说明imgs.min()/max()在归一化后通常是负数到正数区间如果仍然是 0 到 1说明Normalize没生效如果全是同一个值检查图片路径是否读错。标签断言能挡住 csv 里混入空标签或类别名带空格的问题。把这些检查写进脚本比后面对着损失曲线猜要省时间。3. VGG19 改造与训练冻结卷积层、换分类头、分组学习率3.1 看清 features 与 classifier25088 维从哪来torchvision 里的 VGG19 分成features和classifier两段。输入 224×224 经过五段卷积和池化后features输出[B,512,7,7]展平就是 25088 维正好接原分类头的第一个全连接层。原分类头是 25088→4096→4096→1000参数量很大小数据集上直接全量微调容易过拟合也会把显存吃满。常见做法是冻结features的前几段只训练后面的卷积块和新分类头让模型先学会“用预训练特征分类”再决定要不要解冻。import torch.nn as nn from torchvision import models def build_vgg19(num_classes, dropout0.5, pretrainedTrue): weights models.VGG19_Weights.DEFAULT if pretrained else None model models.vgg19(weightsweights) in_features model.classifier[0].in_features # 25088 model.classifier nn.Sequential( nn.Flatten(), nn.Linear(in_features, 512), nn.ReLU(inplaceTrue), nn.Dropout(dropout), nn.Linear(512, num_classes), ) return model逻辑说明in_features直接从原分类头读避免手写 25088 写错新分类头用 512 维瓶颈比直接 25088→类别数多一层非线性小数据集上更稳。dropout0.5是 VGG 原配置的常见值数据量很小可以调到 0.6数据量较大可以降到 0.3。weightsDEFAULT会下载预训练权重离线环境需要提前把权重缓存到本地否则第一次运行会卡在下载。3.2 冻结策略先冻到 block4再看验证集冻结不是越少越好。VGG19 的浅层学边缘和颜色中层学纹理深层才更偏语义。小数据集上我一般先冻结features[:24]左右保留最后一段卷积和分类头可训练中等数据量可以冻到 block3留 block4、block5 和分类头。判断标准看验证集如果训练集准确率很快到 95% 而验证集不动说明可训练参数太多如果两边都低可能是学习率太小或数据增强太狠。model build_vgg19(num_classes10) for p in model.features.parameters(): p.requires_grad False for p in model.features[-4:].parameters(): # 只放开最后一段卷积 p.requires_grad True trainable sum(p.numel() for p in model.parameters() if p.requires_grad) total sum(p.numel() for p in model.parameters()) print(ftrainable{trainable/1e6:.2f}M / total{total/1e6:.2f}M)逻辑说明features[-4:]对应最后一段卷积附近的层具体边界可以用print(model.features)看索引不要盲抄。先冻结大部分卷积只训练分类头通常 3 到 5 个 epoch 就能看出方向验证集 F1 还在涨再解冻后段卷积。BatchNorm 层在冻结时仍会跑滑动统计如果 batch 很小建议把冻结部分的 BN 设成eval()避免统计量被小 batch 带偏。策略可训练部分适用场景风险只训分类头classifier数据少、快速验证管线特征不匹配时上限低冻到 block4block5 classifier小到中等数据量解冻时机要试全量微调全部参数数据量接近预训练规模显存高、易过拟合3.3 分组学习率和训练循环卷积层用的是预训练权重学习率要小新分类头是随机初始化学习率可以大一个量级。我一般给features设1e-4到3e-5给classifier设1e-3到3e-4优化器用 AdamW 或 SGD 加动量都行。训练循环里加混合精度和梯度裁剪VGG19 参数量大AMP 能明显降显存梯度裁剪防个别 batch 梯度爆炸。import torch from torch.optim import AdamW from torch.optim.lr_scheduler import CosineAnnealingLR device torch.device(cuda if torch.cuda.is_available() else cpu) model model.to(device) criterion nn.CrossEntropyLoss() optimizer AdamW([ {params: model.features.parameters(), lr: 1e-4}, {params: model.classifier.parameters(), lr: 1e-3}, ], weight_decay1e-4) scheduler CosineAnnealingLR(optimizer, T_max20) scaler torch.cuda.amp.GradScaler(enabledtorch.cuda.is_available()) for epoch in range(20): model.train() for imgs, labels in train_loader: imgs, labels imgs.to(device), labels.to(device) optimizer.zero_grad(set_to_noneTrue) with torch.cuda.amp.autocast(enabledtorch.cuda.is_available()): logits model(imgs) loss criterion(logits, labels) scaler.scale(loss).backward() scaler.unscale_(optimizer) torch.nn.utils.clip_grad_norm_(model.parameters(), max_norm5.0) scaler.step(optimizer) scaler.update() scheduler.step()逻辑说明AdamW的weight_decay1e-4作用在参数组上分类头和新卷积层共享这个衰减如果解冻后掉点可以把卷积组的 weight decay 调小。T_max20要和总 epoch 对齐改 epoch 时别忘了改这里否则学习率曲线会在训练中途提前归零。clip_grad_norm_的max_norm5.0是常见起点出现持续大于 10 的梯度范数再往下调。AMP 只在 CUDA 下开CPU 训练保持enabledFalse。3.4 第二阶段微调解冻后段卷积要降学习率分类头训练几个 epoch 后如果验证集指标还在涨可以解冻最后两段卷积做第二阶段微调。此时卷积层学习率要比第一阶段更低通常降到1e-5到3e-6分类头也降一个量级。解冻后先跑 1 个 epoch 看验证集如果掉了就回退不要一口气解冻全部层。VGG19 的 BN 层对 batch size 敏感第二阶段 batch 太小会让统计量跳变显存允许时尽量保持 32。for p in model.features[-8:].parameters(): p.requires_grad True for g in optimizer.param_groups: g[lr] * 0.1逻辑说明features[-8:]是示例边界实际按print(model.features)的索引调整解冻后优化器参数组要同步降学习率否则新解冻的卷积层会用第一阶段的大学习率把预训练特征打乱。第二阶段 epoch 不用多3 到 5 个足够配合早停看验证集 macro-F1。4. 评估与错分分析别只看 accuracy先把混淆矩阵和置信度拆开4.1 评估循环要同时留 logits 和标签验证集评估不要只算一个 accuracy。类别不平衡时 accuracy 会被多数类带偏至少同时看 macro-F1 和每类 recall。评估循环把 logits、预测、标签、图片路径一起收起来后面做混淆矩阵和错分样本落盘都用得上。注意评估时固定model.eval()和torch.no_grad()否则 dropout 和 BN 还在训练模式指标会抖。import numpy as np from sklearn.metrics import accuracy_score, f1_score, confusion_matrix def evaluate(model, loader, device): model.eval() all_logits, all_labels, all_paths [], [], [] with torch.no_grad(): for imgs, labels in loader: logits model(imgs.to(device)) all_logits.append(logits.cpu()) all_labels.append(labels) logits torch.cat(all_logits) labels torch.cat(all_labels).numpy() preds logits.argmax(1).numpy() probs torch.softmax(logits, dim1).numpy() return { acc: accuracy_score(labels, preds), macro_f1: f1_score(labels, preds, averagemacro), cm: confusion_matrix(labels, preds), labels: labels, preds: preds, probs: probs, }逻辑说明torch.softmax只在需要置信度时算训练循环里不需要额外 softmaxCrossEntropyLoss 内部已经带 log-softmax。macro_f1对每类一视同仁小类多时比 accuracy 更能反映问题。confusion_matrix的标签顺序要和train_ds.classes对齐画图前把类别名按同一顺序传入否则矩阵行列会错位。4.2 混淆矩阵和错分样本要落盘混淆矩阵不落盘调参时只能凭记忆对比。我一般把矩阵存 csv同时把置信度最高的错分样本复制到badcases/真实类_预测类/下文件名带上置信度。这样下一轮看错分图时不用再跑一遍推理也能快速判断是标注问题、相似类混淆还是预处理把主体裁掉了。import pandas as pd, shutil from pathlib import Path res evaluate(model, val_loader, device) cm_df pd.DataFrame(res[cm], indextrain_ds.classes, columnstrain_ds.classes) cm_df.to_csv(outputs/confusion_matrix.csv) bad_root Path(outputs/badcases) bad_root.mkdir(parentsTrue, exist_okTrue) val_df pd.read_csv(data/split.csv) val_df val_df[val_df[split] val].reset_index(dropTrue) for i, (y, p) in enumerate(zip(res[labels], res[preds])): if y ! p: conf res[probs][i, p] src Path(val_df.iloc[i][path]) dst_dir bad_root / f{train_ds.classes[y]}_to_{train_ds.classes[p]} dst_dir.mkdir(parentsTrue, exist_okTrue) shutil.copy(src, dst_dir / f{conf:.3f}_{src.name})逻辑说明val_df的顺序必须和val_loader完全一致所以验证集shuffleFalse且 csv 读取后不要再次打乱。conf是预测类的 softmax 概率文件名前缀方便按置信度排序。错分样本目录按“真实类_to_预测类”命名类多时目录会多但排查相似类非常直观。4.3 高置信错分比低置信错分更值得看验证集里有一类错分很值得警惕模型给出 0.95 以上的置信度但标签错了。这种样本要么是标注噪声要么是训练集和验证集分布不一致要么是类别定义本身有重叠。低置信错分反而正常模型在边界样本上犹豫是合理的。把置信度分桶看一遍比盯着总 accuracy 更能找到数据问题。import numpy as np wrong res[preds] ! res[labels] conf res[probs].max(axis1) for lo, hi in [(0.5, 0.7), (0.7, 0.9), (0.9, 1.01)]: mask wrong (conf lo) (conf hi) print(fconf[{lo},{hi}) wrong{mask.sum()}, ratio{mask.sum()/max(wrong.sum(),1):.2%})逻辑说明conf取每张图的最大 softmax 概率只统计错分样本的置信度分布。高置信错分占比高时先复查这些图的标签和原图不要急着调模型。如果标签没问题再考虑类别定义是否太细或者验证集里混入了训练集近重复图。4.4 验证集虚高的三个来源验证集指标异常高时先查三件事训练集和验证集是否有重复图或近重复图验证集 transform 是否误用了训练增强早停是否在验证集上反复挑 epoch 导致过拟合。重复图可以用文件哈希快速查近重复图可以看感知哈希实验阶段至少做一次文件名和哈希去重。早停可以保留但最终报告要用独立 test 集不要拿 val 反复调完再当最终指标。import hashlib from pathlib import Path seen {} for p in Path(data/raw).rglob(*): if p.suffix.lower() in {.jpg, .jpeg, .png}: h hashlib.md5(p.read_bytes()).hexdigest() if h in seen: print(duplicate:, p, seen[h]) seen[h] p逻辑说明MD5 只能抓完全重复文件裁剪、压缩过的近重复图抓不到实验阶段先用它排掉最明显的泄漏。更稳的做法是把训练集和验证集的图片都过一遍感知哈希距离小于阈值的配对人工抽查。验证集 transform 单独写一个变量不要和训练 transform 复用同一个Compose。5. 常见问题与排查损失不降、显存炸、验证集虚高、保存加载不一致5.1 损失不降先看标签和归一化再看学习率现象训练 loss 前几个 epoch 几乎是一条直线准确率停在多数类比例附近。原因通常不是 VGG19 不够强而是标签索引错位、归一化没生效、分类头输入维度不对或者学习率小到梯度更新可忽略。先打印一个 batch 的图片均值、标签范围和模型输出 logits 的均值确认输入不是全零、标签不是全 1、logits 不是常数。解决顺序是查classes映射是否训练验证一致查Normalize是否在ToTensor之后查分类头in_features是否等于512*7*7。如果这些都正常把分类头学习率调到1e-3跑 20 个 step看 loss 是否动不动再查梯度named_parameters()里找requires_gradTrue但grad is None的层。5.2 显存炸先降 batch再冻结最后才考虑改模型现象第一个 epoch 还能跑第二个 epoch 或验证阶段报 CUDA out of memory。原因可能是 batch 太大、验证阶段没加torch.no_grad()、中间变量没释放或者 DataLoader 的pin_memory在内存紧张时反而添乱。解决顺序把 batch 从 32 降到 16 或 8验证循环加with torch.no_grad()训练循环里optimizer.zero_grad(set_to_noneTrue)不再保留上一个 batch 的计算图。还不行就冻结更多features层减少可训练参数和激活缓存。VGG19 的浅层激活很大输入从 224 提到 320 会让显存明显上涨实验阶段不要随手改输入尺寸。5.3 验证集虚高查重复图、查 transform、查早停现象验证集 accuracy 到 0.98换 test 集掉到 0.75。原因常见的有三种训练集和验证集存在重复或近重复图验证集误用了RandomResizedCrop等训练增强调参时反复看验证集挑 epoch等价于在验证集上训练。解决先跑文件哈希去重再人工抽查高置信错分和验证集前 32 张图把验证 transform 单独定义确保只有 resize、center crop、normalize最终指标用独立 test 集验证集只用于早停和选模。类别少时验证集每类至少留 20 到 30 张否则指标波动很大。5.4 保存加载不一致类别顺序和预处理要一起存现象训练时验证集 0.9重新加载state_dict后预测全乱。原因通常是保存模型时没存classes顺序加载时用sorted(目录名)重新生成顺序和训练时不一致或者推理脚本用了不同的归一化参数。解决保存 checkpoint 时把classes、输入尺寸、mean/std、模型构造参数一起写进字典加载时先构造模型再load_state_dict不要只存model对象。推理脚本的 transform 直接从 checkpoint 里读参数别手写第二套。ckpt { model: model.state_dict(), classes: train_ds.classes, input_size: 224, mean: [0.485, 0.456, 0.406], std: [0.229, 0.224, 0.225], } torch.save(ckpt, outputs/vgg19_best.pt)逻辑说明classes必须和训练时CsvImageDataset的classes完全一致推理时用ckpt[classes][pred_idx]还原类别名。input_size和归一化参数一起存避免换机器后靠记忆复现。保存state_dict比保存整个模型更稳加载时模型结构由代码控制不会受 pickle 路径影响。5.5 固定排查顺序别同时改三个参数出现指标异常时我一般按“数据→模型→优化”的顺序排查先看一个 batch 的图片和标签再看模型输出形状和 logits 范围最后才动学习率和冻结层。一次只改一个变量改完记录到实验表里。VGG19 实验里最容易犯的错是同时换 batch、改学习率、解冻层最后指标涨了也不知道是哪一项起作用。把随机种子、数据划分、transform 版本、模型配置写进同一个 yaml 或 json复现时直接读配置比翻聊天记录可靠。6. 进阶技巧用特征缓存和分层学习率把实验跑稳数据量不大、又反复调分类头时可以把冻结卷积层的输出提前算好缓存起来。VGG19 的features不参与训练时同一张图每次前向结果一样缓存[N,25088]特征后分类头训练从“每步跑 19 层卷积”变成“每步跑两层全连接”调参速度快很多。做法是先model.features.eval()用torch.no_grad()遍历训练集和验证集把特征和标签存成.pt训练分类头时只加载特征学习率可以放大胆一点。注意缓存只对冻结阶段有效一旦解冻卷积层就必须重新算特征否则缓存和当前权重不一致指标会骗人。def cache_features(model, loader, device, path): model.eval() feats, labels [], [] with torch.no_grad(): for imgs, y in loader: f model.features(imgs.to(device)).flatten(1) feats.append(f.cpu()) labels.append(y) torch.save({feat: torch.cat(feats), label: torch.cat(labels)}, path) cache_features(model, train_loader, device, outputs/train_feat.pt) cache_features(model, val_loader, device, outputs/val_feat.pt)逻辑说明flatten(1)把[B,512,7,7]压成[B,25088]和分类头输入对齐缓存文件按 train/val 分开存标签顺序跟各自 loader 一致。缓存前确认features全部冻结且处于eval()否则 BN 统计量会变。分类头训练时把optimizer的参数组只留classifier学习率可以设1e-3到3e-3配合 cosine 调度跑 30 到 50 个 epoch通常比端到端快一个数量级。分层学习率还有一个实用变体解冻后按层深给不同学习率浅层最小深层稍大分类头最大。VGG19 的features可以按索引切三段分别放进optimizer.param_groups每段乘 0.3 的衰减。这个做法在数据量中等、又想榨一点精度时比较稳。验证时不要只看 best accuracy固定看 macro-F1 和每类 recall再抽查 20 张高置信错分图。我吃过一次亏缓存特征后忘了重新算验证集端到端解冻后指标还拿着旧缓存对比白调了一下午从那以后每次切换冻结/解冻状态我都强制先跑一遍特征版本校验再开始训练。需要这套实验包的话从文末入口取先跑通数据管线和评估脚本再动模型参数。希望帮到你。本文还有配套的精品资源点击获取
简介面向人工智能与深度学习课程学习者及智能计算系统实验实践者这份资料围绕 VGG19 图像分类任务提供从模型加载、图像预处理到前向推理与准确率评估的完整实验支撑适合希望理解卷积神经网络结构、INT8 量化与异构硬件部署的中级学习者。压缩包共 4 个文件约 95.86MB由 3 个 Python 评估脚本和 1 个 INT8 量化模型文件组成脚本分别对应 CPU 与 MLU 平台的推理评估模型文件可直接加载用于分类实验便于对照两种硬件环境的运行表现。已有 2154 人学习下载。通过包内材料读者可复现 VGG19 的推理流程观察卷积、池化、全连接与 Softmax 各环节的输出并对比 CPU 与硬件加速器在速度和能效上的差异进而掌握模型轻量化与部署优化的基本思路。1. 数据先行的 VGG19 图像分类别急着把预训练模型塞进 DataLoader带新人做这个智能计算实验时最常见的翻车点不是 VGG19 有多深而是数据目录还没理顺就直接model.fit。这套基于 VGG19 的图像分类实验核心不是从零训练 19 层卷积而是借预训练特征做迁移学习把大规模视觉任务里学到的边缘、纹理、局部形状迁移到自己的类别上。它适合刚接触人工智能实验、需要一份能跑通的训练评估闭环的人也适合想检查自己迁移学习参数是否合理的熟手。先把数据划分、输入尺寸、归一化这三件事做对后面调分类头和冻结层才有意义。2. 数据管线和预处理把 ImageFolder 拆成可复现的 train/val/test2.1 先分层划分再谈 random_splitImageFolder读目录很方便但直接把整个目录丢给random_split有两个隐患类别不平衡时验证集可能缺类同一张图的不同副本也可能跨集合泄漏。我一般先扫描目录统计每类数量再按类别分层切 train/val/test并把划分结果写成固定清单。这样每次实验读的是同一份清单调参时不会出现“换了个随机种子指标就漂”的玄学问题。下面脚本只做两件事统计每个类别文件数按 8:1:1 分层划分并写出 csv。路径、随机种子、比例都放在参数区换数据集只改这里。import csv, random from pathlib import Path from collections import defaultdict data_root Path(data/raw) # 原始目录data/raw/类别名/图片 out_csv Path(data/split.csv) # 划分清单 seed 42 ratios (0.8, 0.1, 0.1) # train/val/test random.seed(seed) by_cls defaultdict(list) for p in data_root.rglob(*): if p.suffix.lower() in {.jpg, .jpeg, .png, .bmp}: by_cls[p.parent.name].append(p) rows [] for cls, files in by_cls.items(): random.shuffle(files) n len(files) n_train int(n * ratios[0]) n_val int(n * ratios[1]) for i, p in enumerate(files): split train if i n_train else (val if i n_train n_val else test) rows.append([str(p), cls, split]) out_csv.parent.mkdir(parentsTrue, exist_okTrue) with out_csv.open(w, newline, encodingutf-8) as f: csv.writer(f).writerows(rows) print(fimages{len(rows)}, classes{len(by_cls)})逻辑说明先按类别聚合文件再在类内打乱保证每个类别都按比例进入三个集合。ratios是每类内部的切分比例不是全量比例类别极少时int()可能把 val 切成 0需要把ratios调成 0.7/0.15/0.15 或对每类保底 1 张验证图。seed必须固定否则同一份数据每次划分不同指标无法横向比较。参数建议值说明输入尺寸224×224VGG19 分类头按 7×7×512 接全连接尺寸改太大显存涨得快训练裁剪RandomResizedCrop(224, scale(0.7, 1.0))保留主体又带一点尺度扰动验证裁剪Resize(256) CenterCrop(224)验证阶段不做随机增强保证可复现归一化ImageNet mean/std预训练权重按这套统计量训练换掉容易掉点batch size16 或 32显存不够先降 batch再考虑冻结更多层2.2 transform 的训练/验证差异要写死VGG19 的输入是 224×224预训练权重配套的归一化是mean[0.485,0.456,0.406]、std[0.229,0.224,0.225]。训练侧可以做随机裁剪、水平翻转和轻量颜色扰动验证侧只做 resize、中心裁剪和归一化。很多人验证集指标虚高不是模型强而是验证集误用了训练增强同一张图被随机裁到不同区域评估结果自然不可比。from torchvision import transforms train_tf transforms.Compose([ transforms.RandomResizedCrop(224, scale(0.7, 1.0)), transforms.RandomHorizontalFlip(p0.5), transforms.ColorJitter(brightness0.15, contrast0.15, saturation0.1), transforms.ToTensor(), transforms.Normalize([0.485, 0.456, 0.406], [0.229, 0.224, 0.225]), ]) val_tf transforms.Compose([ transforms.Resize(256), transforms.CenterCrop(224), transforms.ToTensor(), transforms.Normalize([0.485, 0.456, 0.406], [0.229, 0.224, 0.225]), ])逻辑说明RandomResizedCrop的scale下限不要压得太低0.5 以下会把主体裁掉小数据集上反而让损失震荡。ColorJitter只做轻微扰动医疗、工业缺陷这类颜色敏感任务可以关掉饱和度项。Resize(256)再CenterCrop(224)是常见做法比直接Resize((224,224))更接近预训练时的构图。2.3 DataLoader 的 batch、worker 和均衡采样数据清单有了下一步是把 csv 读成 Dataset。这里不建议直接ImageFolder加random_split因为清单已经固定用自定义 Dataset 读 csv 更稳。num_workers不是越大越好Windows 或容器里开到 8 有时会在第一个 epoch 卡住先从 2 或 4 试。pin_memoryTrue在 GPU 训练时能减少拷贝等待CPU 训练就不用开。import pandas as pd from PIL import Image from torch.utils.data import Dataset, DataLoader class CsvImageDataset(Dataset): def __init__(self, csv_path, split, transform, classesNone): df pd.read_csv(csv_path) self.df df[df[split] split].reset_index(dropTrue) self.transform transform self.classes classes or sorted(self.df[label].unique()) self.cls_to_idx {c: i for i, c in enumerate(self.classes)} def __len__(self): return len(self.df) def __getitem__(self, idx): row self.df.iloc[idx] img Image.open(row[path]).convert(RGB) return self.transform(img), self.cls_to_idx[row[label]] train_ds CsvImageDataset(data/split.csv, train, train_tf) val_ds CsvImageDataset(data/split.csv, val, val_tf, train_ds.classes) train_loader DataLoader(train_ds, batch_size32, shuffleTrue, num_workers4, pin_memoryTrue, drop_lastTrue) val_loader DataLoader(val_ds, batch_size32, shuffleFalse, num_workers4, pin_memoryTrue)逻辑说明classes从训练集固定后传给验证集避免验证集出现训练集没有的类别导致索引错位drop_lastTrue只在训练集开防止最后一个 batch 只有 1 张图时 BatchNorm 统计量抖动。convert(RGB)必须加灰度图或带 alpha 通道的 png 直接进模型会在卷积层报通道数不匹配。类别明显不平衡时可以给WeightedRandomSampler按类频倒数配权重但验证集仍然保持自然分布不要跟着重采样。2.4 训练前先看一个 batch正式跑训练循环前我习惯先取一个 batch 检查三件事张量形状是不是[B,3,224,224]、标签范围是不是在[0,num_classes)、归一化后的像素均值是否大致在 0 附近。这个检查花不了一分钟却能提前拦住“通道顺序反了”“标签从 1 开始”“图片全是黑图”这类低级错误。import torch imgs, labels next(iter(train_loader)) print(imgs.shape, imgs.dtype, imgs.min().item(), imgs.max().item()) print(labels[:8], labels.min().item(), labels.max().item()) assert imgs.shape[1:] (3, 224, 224) assert labels.min() 0 and labels.max() len(train_ds.classes)逻辑说明imgs.min()/max()在归一化后通常是负数到正数区间如果仍然是 0 到 1说明Normalize没生效如果全是同一个值检查图片路径是否读错。标签断言能挡住 csv 里混入空标签或类别名带空格的问题。把这些检查写进脚本比后面对着损失曲线猜要省时间。3. VGG19 改造与训练冻结卷积层、换分类头、分组学习率3.1 看清 features 与 classifier25088 维从哪来torchvision 里的 VGG19 分成features和classifier两段。输入 224×224 经过五段卷积和池化后features输出[B,512,7,7]展平就是 25088 维正好接原分类头的第一个全连接层。原分类头是 25088→4096→4096→1000参数量很大小数据集上直接全量微调容易过拟合也会把显存吃满。常见做法是冻结features的前几段只训练后面的卷积块和新分类头让模型先学会“用预训练特征分类”再决定要不要解冻。import torch.nn as nn from torchvision import models def build_vgg19(num_classes, dropout0.5, pretrainedTrue): weights models.VGG19_Weights.DEFAULT if pretrained else None model models.vgg19(weightsweights) in_features model.classifier[0].in_features # 25088 model.classifier nn.Sequential( nn.Flatten(), nn.Linear(in_features, 512), nn.ReLU(inplaceTrue), nn.Dropout(dropout), nn.Linear(512, num_classes), ) return model逻辑说明in_features直接从原分类头读避免手写 25088 写错新分类头用 512 维瓶颈比直接 25088→类别数多一层非线性小数据集上更稳。dropout0.5是 VGG 原配置的常见值数据量很小可以调到 0.6数据量较大可以降到 0.3。weightsDEFAULT会下载预训练权重离线环境需要提前把权重缓存到本地否则第一次运行会卡在下载。3.2 冻结策略先冻到 block4再看验证集冻结不是越少越好。VGG19 的浅层学边缘和颜色中层学纹理深层才更偏语义。小数据集上我一般先冻结features[:24]左右保留最后一段卷积和分类头可训练中等数据量可以冻到 block3留 block4、block5 和分类头。判断标准看验证集如果训练集准确率很快到 95% 而验证集不动说明可训练参数太多如果两边都低可能是学习率太小或数据增强太狠。model build_vgg19(num_classes10) for p in model.features.parameters(): p.requires_grad False for p in model.features[-4:].parameters(): # 只放开最后一段卷积 p.requires_grad True trainable sum(p.numel() for p in model.parameters() if p.requires_grad) total sum(p.numel() for p in model.parameters()) print(ftrainable{trainable/1e6:.2f}M / total{total/1e6:.2f}M)逻辑说明features[-4:]对应最后一段卷积附近的层具体边界可以用print(model.features)看索引不要盲抄。先冻结大部分卷积只训练分类头通常 3 到 5 个 epoch 就能看出方向验证集 F1 还在涨再解冻后段卷积。BatchNorm 层在冻结时仍会跑滑动统计如果 batch 很小建议把冻结部分的 BN 设成eval()避免统计量被小 batch 带偏。策略可训练部分适用场景风险只训分类头classifier数据少、快速验证管线特征不匹配时上限低冻到 block4block5 classifier小到中等数据量解冻时机要试全量微调全部参数数据量接近预训练规模显存高、易过拟合3.3 分组学习率和训练循环卷积层用的是预训练权重学习率要小新分类头是随机初始化学习率可以大一个量级。我一般给features设1e-4到3e-5给classifier设1e-3到3e-4优化器用 AdamW 或 SGD 加动量都行。训练循环里加混合精度和梯度裁剪VGG19 参数量大AMP 能明显降显存梯度裁剪防个别 batch 梯度爆炸。import torch from torch.optim import AdamW from torch.optim.lr_scheduler import CosineAnnealingLR device torch.device(cuda if torch.cuda.is_available() else cpu) model model.to(device) criterion nn.CrossEntropyLoss() optimizer AdamW([ {params: model.features.parameters(), lr: 1e-4}, {params: model.classifier.parameters(), lr: 1e-3}, ], weight_decay1e-4) scheduler CosineAnnealingLR(optimizer, T_max20) scaler torch.cuda.amp.GradScaler(enabledtorch.cuda.is_available()) for epoch in range(20): model.train() for imgs, labels in train_loader: imgs, labels imgs.to(device), labels.to(device) optimizer.zero_grad(set_to_noneTrue) with torch.cuda.amp.autocast(enabledtorch.cuda.is_available()): logits model(imgs) loss criterion(logits, labels) scaler.scale(loss).backward() scaler.unscale_(optimizer) torch.nn.utils.clip_grad_norm_(model.parameters(), max_norm5.0) scaler.step(optimizer) scaler.update() scheduler.step()逻辑说明AdamW的weight_decay1e-4作用在参数组上分类头和新卷积层共享这个衰减如果解冻后掉点可以把卷积组的 weight decay 调小。T_max20要和总 epoch 对齐改 epoch 时别忘了改这里否则学习率曲线会在训练中途提前归零。clip_grad_norm_的max_norm5.0是常见起点出现持续大于 10 的梯度范数再往下调。AMP 只在 CUDA 下开CPU 训练保持enabledFalse。3.4 第二阶段微调解冻后段卷积要降学习率分类头训练几个 epoch 后如果验证集指标还在涨可以解冻最后两段卷积做第二阶段微调。此时卷积层学习率要比第一阶段更低通常降到1e-5到3e-6分类头也降一个量级。解冻后先跑 1 个 epoch 看验证集如果掉了就回退不要一口气解冻全部层。VGG19 的 BN 层对 batch size 敏感第二阶段 batch 太小会让统计量跳变显存允许时尽量保持 32。for p in model.features[-8:].parameters(): p.requires_grad True for g in optimizer.param_groups: g[lr] * 0.1逻辑说明features[-8:]是示例边界实际按print(model.features)的索引调整解冻后优化器参数组要同步降学习率否则新解冻的卷积层会用第一阶段的大学习率把预训练特征打乱。第二阶段 epoch 不用多3 到 5 个足够配合早停看验证集 macro-F1。4. 评估与错分分析别只看 accuracy先把混淆矩阵和置信度拆开4.1 评估循环要同时留 logits 和标签验证集评估不要只算一个 accuracy。类别不平衡时 accuracy 会被多数类带偏至少同时看 macro-F1 和每类 recall。评估循环把 logits、预测、标签、图片路径一起收起来后面做混淆矩阵和错分样本落盘都用得上。注意评估时固定model.eval()和torch.no_grad()否则 dropout 和 BN 还在训练模式指标会抖。import numpy as np from sklearn.metrics import accuracy_score, f1_score, confusion_matrix def evaluate(model, loader, device): model.eval() all_logits, all_labels, all_paths [], [], [] with torch.no_grad(): for imgs, labels in loader: logits model(imgs.to(device)) all_logits.append(logits.cpu()) all_labels.append(labels) logits torch.cat(all_logits) labels torch.cat(all_labels).numpy() preds logits.argmax(1).numpy() probs torch.softmax(logits, dim1).numpy() return { acc: accuracy_score(labels, preds), macro_f1: f1_score(labels, preds, averagemacro), cm: confusion_matrix(labels, preds), labels: labels, preds: preds, probs: probs, }逻辑说明torch.softmax只在需要置信度时算训练循环里不需要额外 softmaxCrossEntropyLoss 内部已经带 log-softmax。macro_f1对每类一视同仁小类多时比 accuracy 更能反映问题。confusion_matrix的标签顺序要和train_ds.classes对齐画图前把类别名按同一顺序传入否则矩阵行列会错位。4.2 混淆矩阵和错分样本要落盘混淆矩阵不落盘调参时只能凭记忆对比。我一般把矩阵存 csv同时把置信度最高的错分样本复制到badcases/真实类_预测类/下文件名带上置信度。这样下一轮看错分图时不用再跑一遍推理也能快速判断是标注问题、相似类混淆还是预处理把主体裁掉了。import pandas as pd, shutil from pathlib import Path res evaluate(model, val_loader, device) cm_df pd.DataFrame(res[cm], indextrain_ds.classes, columnstrain_ds.classes) cm_df.to_csv(outputs/confusion_matrix.csv) bad_root Path(outputs/badcases) bad_root.mkdir(parentsTrue, exist_okTrue) val_df pd.read_csv(data/split.csv) val_df val_df[val_df[split] val].reset_index(dropTrue) for i, (y, p) in enumerate(zip(res[labels], res[preds])): if y ! p: conf res[probs][i, p] src Path(val_df.iloc[i][path]) dst_dir bad_root / f{train_ds.classes[y]}_to_{train_ds.classes[p]} dst_dir.mkdir(parentsTrue, exist_okTrue) shutil.copy(src, dst_dir / f{conf:.3f}_{src.name})逻辑说明val_df的顺序必须和val_loader完全一致所以验证集shuffleFalse且 csv 读取后不要再次打乱。conf是预测类的 softmax 概率文件名前缀方便按置信度排序。错分样本目录按“真实类_to_预测类”命名类多时目录会多但排查相似类非常直观。4.3 高置信错分比低置信错分更值得看验证集里有一类错分很值得警惕模型给出 0.95 以上的置信度但标签错了。这种样本要么是标注噪声要么是训练集和验证集分布不一致要么是类别定义本身有重叠。低置信错分反而正常模型在边界样本上犹豫是合理的。把置信度分桶看一遍比盯着总 accuracy 更能找到数据问题。import numpy as np wrong res[preds] ! res[labels] conf res[probs].max(axis1) for lo, hi in [(0.5, 0.7), (0.7, 0.9), (0.9, 1.01)]: mask wrong (conf lo) (conf hi) print(fconf[{lo},{hi}) wrong{mask.sum()}, ratio{mask.sum()/max(wrong.sum(),1):.2%})逻辑说明conf取每张图的最大 softmax 概率只统计错分样本的置信度分布。高置信错分占比高时先复查这些图的标签和原图不要急着调模型。如果标签没问题再考虑类别定义是否太细或者验证集里混入了训练集近重复图。4.4 验证集虚高的三个来源验证集指标异常高时先查三件事训练集和验证集是否有重复图或近重复图验证集 transform 是否误用了训练增强早停是否在验证集上反复挑 epoch 导致过拟合。重复图可以用文件哈希快速查近重复图可以看感知哈希实验阶段至少做一次文件名和哈希去重。早停可以保留但最终报告要用独立 test 集不要拿 val 反复调完再当最终指标。import hashlib from pathlib import Path seen {} for p in Path(data/raw).rglob(*): if p.suffix.lower() in {.jpg, .jpeg, .png}: h hashlib.md5(p.read_bytes()).hexdigest() if h in seen: print(duplicate:, p, seen[h]) seen[h] p逻辑说明MD5 只能抓完全重复文件裁剪、压缩过的近重复图抓不到实验阶段先用它排掉最明显的泄漏。更稳的做法是把训练集和验证集的图片都过一遍感知哈希距离小于阈值的配对人工抽查。验证集 transform 单独写一个变量不要和训练 transform 复用同一个Compose。5. 常见问题与排查损失不降、显存炸、验证集虚高、保存加载不一致5.1 损失不降先看标签和归一化再看学习率现象训练 loss 前几个 epoch 几乎是一条直线准确率停在多数类比例附近。原因通常不是 VGG19 不够强而是标签索引错位、归一化没生效、分类头输入维度不对或者学习率小到梯度更新可忽略。先打印一个 batch 的图片均值、标签范围和模型输出 logits 的均值确认输入不是全零、标签不是全 1、logits 不是常数。解决顺序是查classes映射是否训练验证一致查Normalize是否在ToTensor之后查分类头in_features是否等于512*7*7。如果这些都正常把分类头学习率调到1e-3跑 20 个 step看 loss 是否动不动再查梯度named_parameters()里找requires_gradTrue但grad is None的层。5.2 显存炸先降 batch再冻结最后才考虑改模型现象第一个 epoch 还能跑第二个 epoch 或验证阶段报 CUDA out of memory。原因可能是 batch 太大、验证阶段没加torch.no_grad()、中间变量没释放或者 DataLoader 的pin_memory在内存紧张时反而添乱。解决顺序把 batch 从 32 降到 16 或 8验证循环加with torch.no_grad()训练循环里optimizer.zero_grad(set_to_noneTrue)不再保留上一个 batch 的计算图。还不行就冻结更多features层减少可训练参数和激活缓存。VGG19 的浅层激活很大输入从 224 提到 320 会让显存明显上涨实验阶段不要随手改输入尺寸。5.3 验证集虚高查重复图、查 transform、查早停现象验证集 accuracy 到 0.98换 test 集掉到 0.75。原因常见的有三种训练集和验证集存在重复或近重复图验证集误用了RandomResizedCrop等训练增强调参时反复看验证集挑 epoch等价于在验证集上训练。解决先跑文件哈希去重再人工抽查高置信错分和验证集前 32 张图把验证 transform 单独定义确保只有 resize、center crop、normalize最终指标用独立 test 集验证集只用于早停和选模。类别少时验证集每类至少留 20 到 30 张否则指标波动很大。5.4 保存加载不一致类别顺序和预处理要一起存现象训练时验证集 0.9重新加载state_dict后预测全乱。原因通常是保存模型时没存classes顺序加载时用sorted(目录名)重新生成顺序和训练时不一致或者推理脚本用了不同的归一化参数。解决保存 checkpoint 时把classes、输入尺寸、mean/std、模型构造参数一起写进字典加载时先构造模型再load_state_dict不要只存model对象。推理脚本的 transform 直接从 checkpoint 里读参数别手写第二套。ckpt { model: model.state_dict(), classes: train_ds.classes, input_size: 224, mean: [0.485, 0.456, 0.406], std: [0.229, 0.224, 0.225], } torch.save(ckpt, outputs/vgg19_best.pt)逻辑说明classes必须和训练时CsvImageDataset的classes完全一致推理时用ckpt[classes][pred_idx]还原类别名。input_size和归一化参数一起存避免换机器后靠记忆复现。保存state_dict比保存整个模型更稳加载时模型结构由代码控制不会受 pickle 路径影响。5.5 固定排查顺序别同时改三个参数出现指标异常时我一般按“数据→模型→优化”的顺序排查先看一个 batch 的图片和标签再看模型输出形状和 logits 范围最后才动学习率和冻结层。一次只改一个变量改完记录到实验表里。VGG19 实验里最容易犯的错是同时换 batch、改学习率、解冻层最后指标涨了也不知道是哪一项起作用。把随机种子、数据划分、transform 版本、模型配置写进同一个 yaml 或 json复现时直接读配置比翻聊天记录可靠。6. 进阶技巧用特征缓存和分层学习率把实验跑稳数据量不大、又反复调分类头时可以把冻结卷积层的输出提前算好缓存起来。VGG19 的features不参与训练时同一张图每次前向结果一样缓存[N,25088]特征后分类头训练从“每步跑 19 层卷积”变成“每步跑两层全连接”调参速度快很多。做法是先model.features.eval()用torch.no_grad()遍历训练集和验证集把特征和标签存成.pt训练分类头时只加载特征学习率可以放大胆一点。注意缓存只对冻结阶段有效一旦解冻卷积层就必须重新算特征否则缓存和当前权重不一致指标会骗人。def cache_features(model, loader, device, path): model.eval() feats, labels [], [] with torch.no_grad(): for imgs, y in loader: f model.features(imgs.to(device)).flatten(1) feats.append(f.cpu()) labels.append(y) torch.save({feat: torch.cat(feats), label: torch.cat(labels)}, path) cache_features(model, train_loader, device, outputs/train_feat.pt) cache_features(model, val_loader, device, outputs/val_feat.pt)逻辑说明flatten(1)把[B,512,7,7]压成[B,25088]和分类头输入对齐缓存文件按 train/val 分开存标签顺序跟各自 loader 一致。缓存前确认features全部冻结且处于eval()否则 BN 统计量会变。分类头训练时把optimizer的参数组只留classifier学习率可以设1e-3到3e-3配合 cosine 调度跑 30 到 50 个 epoch通常比端到端快一个数量级。分层学习率还有一个实用变体解冻后按层深给不同学习率浅层最小深层稍大分类头最大。VGG19 的features可以按索引切三段分别放进optimizer.param_groups每段乘 0.3 的衰减。这个做法在数据量中等、又想榨一点精度时比较稳。验证时不要只看 best accuracy固定看 macro-F1 和每类 recall再抽查 20 张高置信错分图。我吃过一次亏缓存特征后忘了重新算验证集端到端解冻后指标还拿着旧缓存对比白调了一下午从那以后每次切换冻结/解冻状态我都强制先跑一遍特征版本校验再开始训练。需要这套实验包的话从文末入口取先跑通数据管线和评估脚本再动模型参数。希望帮到你。本文还有配套的精品资源点击获取
