简介这份资源面向深度学习入门者与计算机视觉方向的初学者围绕PyTorch框架下的卷积神经网络实战展开帮助读者理解CNN的基本结构与训练流程。包内共10个文件以4个py脚本和2个pt模型权重为主另含MNIST数据集的图像与标签文件压缩包约19.83MB体量轻便便于本地快速复现。内容涵盖卷积层、池化层、全连接层与ReLU激活的搭建方式以及数据归一化、批加载、交叉熵损失与SGD优化器的完整训练链路并给出测试集准确率评估代码。通过这份资料读者可以掌握从定义SimpleCNN到完成手写数字识别的全流程理解动态计算图在模型调试中的优势并据此调整网络结构与超参数以提升泛化能力。目前已有1605人学习下载适合作为CNN入门的练手项目。1. 从一张 224×224 的图说起PyTorch 卷积神经网络到底在解决什么问题手里有一批图片想让它自动分出「猫、狗、鸟」或者更实际一点——产线上的划痕、裂纹、脏污。传统做法是人工设计特征边缘算子、纹理统计、SIFT 描述子调参调到怀疑人生换个光照条件全部推倒重来。卷积神经网络CNN换了个思路不再手写特征而是让网络自己从数据里学。PyTorch 则是把这套思路落地的工具张量运算、自动求导、GPU 加速、nn.Module封装几行代码就能搭出一个能跑的卷积网络。这篇笔记面向的是想真正把 PyTorch 卷积神经网络跑起来的人刚装完环境不知道下一步写什么的新手以及写过几轮模型但准确率卡住、显存爆炸、训练不收敛的熟手。我会从环境搭建讲到卷积结构设计、训练循环、调参、排错最后落到导出 ONNX 和推理验证。全程用可复现的代码和参数说明不讲空话。卷积神经网络结构图看再多不如自己敲一遍nn.Conv2d来得实在。2. 环境搭建与第一个卷积层PyTorch 安装、CUDA 适配和最小可跑代码2.1 安装 PyTorch 前先确认 CUDA 和显卡驱动很多人卡在第一步torch.cuda.is_available()返回False然后开始到处搜「pytorch 安装教程 gpu」。问题往往不在 PyTorch而在驱动和 CUDA 版本没对上。先看显卡驱动支持的最高 CUDA 版本nvidia-smi输出右上角会显示CUDA Version: 12.x这是驱动支持的最高版本不是你已安装的版本。PyTorch 官方 wheel 自带 CUDA runtime你不需要单独装完整 CUDA Toolkit只要驱动版本够高即可。选安装命令时去 PyTorch 官网选对应 CUDA 版本比如 CUDA 12.1# conda 环境隔离避免污染系统 Python conda create -n cnn python3.10 -y conda activate cnn # 安装带 CUDA 12.1 的 PyTorch版本号以官网当前为准 pip install torch torchvision --index-url https://download.pytorch.org/whl/cu121装完立刻验证别等到写完模型才发现用的是 CPUimport torch print(torch.__version__) # PyTorch 版本 print(torch.cuda.is_available()) # True 才说明 GPU 可用 print(torch.cuda.get_device_name(0)) # 显卡型号 print(torch.cuda.device_count()) # 可用 GPU 数量如果is_available()是False按顺序排查驱动版本是否过低nvidia-smi报错就是驱动问题、装的 wheel 是不是 CPU 版cu后缀才是 GPU 版、conda 环境是否激活正确。WSL 下装 PyTorch 也是同样逻辑先在 Windows 侧装好驱动WSL 里nvidia-smi能通就行。提示不要混用 conda 和 pip 装同一个包容易出现libcudart版本冲突。要么全 conda要么全 pip我一般用 pip 装 PyTorchconda 只管环境。2.2 用 nn.Conv2d 搭一个最小卷积网络环境通了先写一个能跑通前向传播的最小网络理解张量形状怎么变。卷积层的核心参数只有四个in_channels、out_channels、kernel_size、stride/padding。import torch import torch.nn as nn class TinyCNN(nn.Module): def __init__(self, num_classes10): super().__init__() # 输入 3 通道 RGB输出 16 个特征图3x3 卷积核padding1 保持尺寸 self.conv1 nn.Conv2d(3, 16, kernel_size3, stride1, padding1) self.bn1 nn.BatchNorm2d(16) # 批归一化加速收敛 self.relu nn.ReLU(inplaceTrue) self.pool nn.MaxPool2d(2) # 2x2 池化尺寸减半 self.conv2 nn.Conv2d(16, 32, kernel_size3, padding1) self.bn2 nn.BatchNorm2d(32) self.gap nn.AdaptiveAvgPool2d(1) # 全局平均池化输出 1x1 self.fc nn.Linear(32, num_classes) # 分类头 def forward(self, x): x self.pool(self.relu(self.bn1(self.conv1(x)))) # [B,16,H/2,W/2] x self.pool(self.relu(self.bn2(self.conv2(x)))) # [B,32,H/4,W/4] x self.gap(x) # [B,32,1,1] x torch.flatten(x, 1) # [B,32] return self.fc(x) model TinyCNN(num_classes10) x torch.randn(8, 3, 224, 224) # batch8, 3通道, 224x224 out model(x) print(out.shape) # torch.Size([8, 10])逐段说明conv1把 3 通道变成 16 通道padding1配合kernel_size3让宽高不变MaxPool2d(2)把 224 降到 112再过一次池化降到 56AdaptiveAvgPool2d(1)把任意尺寸压成 1×1这样输入图片尺寸变化也不会让全连接层报错。BatchNorm2d放在卷积和激活之间是常见顺序能让训练更稳。参数量上conv1是3×16×3×316448conv2是16×32×3×3324640全连接层32×1010330整个网络不到六千参数适合先跑通流程。注意inplaceTrue的 ReLU 会原地修改输入如果后面还要用同一份张量做残差连接会出问题残差结构里建议用inplaceFalse。3. 数据管道与训练循环把卷积神经网络真正训起来3.1 Dataset 和 DataLoader 的四个必调参数模型搭好只是骨架数据喂不进去等于零。PyTorch 的数据管道是DatasetDataLoader自定义数据集继承torch.utils.data.Dataset实现__len__和__getitem__。from torch.utils.data import Dataset, DataLoader from torchvision import transforms from PIL import Image import os class MyDataset(Dataset): def __init__(self, root, transformNone): self.samples [] # [(图片路径, 标签), ...] self.transform transform for label, cls in enumerate(sorted(os.listdir(root))): cls_dir os.path.join(root, cls) for fname in os.listdir(cls_dir): self.samples.append((os.path.join(cls_dir, fname), label)) def __len__(self): return len(self.samples) def __getitem__(self, idx): path, label self.samples[idx] img Image.open(path).convert(RGB) # 统一转 RGB防止灰度图报错 if self.transform: img self.transform(img) return img, label train_tf transforms.Compose([ transforms.Resize((224, 224)), transforms.RandomHorizontalFlip(), # 数据增强 transforms.ToTensor(), # 转张量并归一化到 [0,1] transforms.Normalize([0.485,0.456,0.406], # ImageNet 均值 [0.229,0.224,0.225]), # ImageNet 标准差 ]) ds MyDataset(data/train, transformtrain_tf) loader DataLoader(ds, batch_size32, shuffleTrue, num_workers4, pin_memoryTrue, drop_lastTrue)四个必调参数batch_size受显存限制224 输入下 32 是常见起点显存不够就降到 16 或 8shuffleTrue只在训练集开验证集必须关否则指标不可复现num_workers是读取进程数Linux 下设成 CPU 核数的一半左右Windows 下建议设 0 避免多进程报错pin_memoryTrue配合 GPU 训练能加快主机到显存的数据拷贝。drop_lastTrue丢掉最后一个不满的 batch避免 BatchNorm 在 batch 只有一两个样本时统计量失真。3.2 训练循环的骨架和损失函数选择训练循环就五步前向、算损失、清梯度、反向、更新。写清楚这五步后面所有花活都是在这上面加。import torch.optim as optim device torch.device(cuda if torch.cuda.is_available() else cpu) model TinyCNN(num_classes10).to(device) criterion nn.CrossEntropyLoss() # 多分类标配 optimizer optim.AdamW(model.parameters(), lr1e-3, weight_decay1e-4) for epoch in range(30): model.train() # 开启 BN 和 Dropout total_loss 0.0 for imgs, labels in loader: imgs, labels imgs.to(device), labels.to(device) optimizer.zero_grad() # 清空上一轮梯度 logits model(imgs) # 前向 loss criterion(logits, labels) # 算损失 loss.backward() # 反向传播 optimizer.step() # 更新参数 total_loss loss.item() print(fepoch {epoch}, loss {total_loss/len(loader):.4f})CrossEntropyLoss内部已经包含 softmax所以模型最后一层输出 logits 就行不要再手动加 softmax否则等于做了两次。AdamW比Adam多了正确的权重衰减实现weight_decay1e-4就是常说的 L2 正则化在 PyTorch 里的落地方式能抑制过拟合。学习率1e-3是 Adam 系优化器的常用起点收敛慢就降到1e-4震荡就再降。model.train()和后面的model.eval()必须成对出现前者让 BatchNorm 用当前 batch 统计量、Dropout 生效后者固定统计量、关闭 Dropout忘了切换是验证指标异常的常见原因。3.3 验证集评估和指标记录训练不看验证集等于闭眼开车。每个 epoch 结束后切到评估模式关掉梯度计算。torch.no_grad() # 评估不需要梯度省显存 def evaluate(model, loader, device): model.eval() correct, total 0, 0 for imgs, labels in loader: imgs, labels imgs.to(device), labels.to(device) logits model(imgs) preds logits.argmax(dim1) # 取最大 logit 对应的类别 correct (preds labels).sum().item() total labels.size(0) return correct / total acc evaluate(model, val_loader, device) print(fval acc: {acc:.4f})torch.no_grad()装饰器让整个函数不构建计算图显存占用大幅下降评估速度也快。argmax(dim1)在类别维度取最大值得到预测类别。验证集准确率连续几个 epoch 不升反降就是过拟合信号该加数据增强、加权重衰减或者早停。训练准确率高但验证低八成是过拟合两个都低是欠拟合该加容量或加训练轮数。4. 卷积结构设计与调参从准确率卡住到显存爆炸的排查4.1 卷积核、通道数、池化的取舍卷积神经网络结构设计的核心就三件事感受野、通道数、下采样节奏。kernel_size3堆两层感受野等于 5×5但参数更少、非线性更强这是 VGG 之后的主流做法。通道数一般从 32 或 64 起步每下采样一次翻倍比如 64→128→256让空间信息减少的同时通道信息增加。池化用MaxPool2d(2)最稳stride2的卷积下采样也可以但会多一份参数。结构选择常见取值适用场景代价卷积核3×3 堆叠通用图像分类层数多训练稍慢卷积核5×5 / 7×7首层大感受野参数平方增长通道数32/64 起步翻倍中小数据集显存随通道平方涨下采样MaxPool2d(2)分类任务丢失部分位置信息下采样stride2 卷积需要可学习下采样多一份参数小数据集几千张别一上来就堆 ResNet-50通道数砍半、层数减到 4~6 层往往效果更好过拟合风险也低。数据量大再考虑深网络加残差连接。4.2 学习率、batch size 和正则化的联动这三个参数不是独立的。batch size 翻倍学习率通常也跟着放大但放大倍数不是线性的经验上开方或线性都有人用我一般先固定 batch size 调学习率。学习率太大表现为 loss 震荡甚至变 NaN太小表现为 loss 几乎不动。判断方法前几十个 step 打印 loss正常应该是先快速下降再平缓。L2 正则化在 PyTorch 里就是优化器的weight_decay1e-4到1e-2之间调。太大模型欠拟合太小没效果。Dropout 用在全连接层前p0.5是经典值卷积层之间一般不用 Dropout用 BatchNorm 就够。数据增强是最便宜的正则化随机裁剪、翻转、颜色抖动能显著缓解过拟合但要注意增强方式不能破坏类别语义比如数字识别里上下翻转就不合适。4.3 显存不够时的四个降级手段显存爆炸CUDA out of memory是训练卷积网络最常见的翻车现场。按代价从低到高排第一降 batch size最直接第二用混合精度训练torch.cuda.amp能把显存占用降三到四成第三梯度累积用小 batch 模拟大 batch第四梯度检查点用时间换显存。from torch.cuda.amp import autocast, GradScaler scaler GradScaler() for imgs, labels in loader: imgs, labels imgs.to(device), labels.to(device) optimizer.zero_grad() with autocast(): # 前向用 fp16省显存提速 logits model(imgs) loss criterion(logits, labels) scaler.scale(loss).backward() # 放大梯度防下溢 scaler.step(optimizer) scaler.update()autocast让卷积和矩阵乘用 fp16GradScaler解决 fp16 梯度下溢问题两者必须配套使用。混合精度在支持 Tensor Core 的显卡上提速明显老卡收益有限。梯度累积则是把多个小 batch 的梯度累加后再更新一次等效于大 batch但 BatchNorm 的统计量还是按小 batch 算这点要注意。5. 避坑与排查卷积神经网络训练里最常见的五个坑5.1 loss 变成 NaN现象训练几个 step 后 loss 直接变nan后续全是nan。原因通常是学习率过大、fp16 溢出没做梯度缩放、或者输入数据里有异常值比如归一化除零。解决先把学习率降一个数量级检查数据归一化是否用了正确的均值和标准差混合精度必须配GradScaler。如果用了自定义损失检查有没有log(0)或除以零。5.2 验证准确率远低于训练准确率现象训练集 99%验证集 60%。原因是过拟合模型把训练集背下来了。解决加数据增强、加weight_decay、加 Dropout、减小模型容量、早停。先确认验证集和训练集没有数据泄漏同一张图同时出现在两边这是最隐蔽的坑划分数据集时按样本或按采集批次分别按随机索引分。5.3 训练速度慢得离谱现象一个 epoch 要跑几小时GPU 利用率却很低。原因多半在数据加载num_workers0时数据读取是单线程阻塞的。解决把num_workers调到 CPU 核数的一半pin_memoryTrue图片提前 resize 缓存成小尺寸别每次从几 MB 的原图解码。用nvidia-smi看 GPU 利用率低于 50% 基本就是数据管道拖后腿。5.4 BatchNorm 在 batch 很小时失效现象batch size 设成 2 或 4训练极不稳定验证指标乱跳。原因是 BatchNorm 依赖 batch 内统计量样本太少统计量噪声大。解决换GroupNorm或LayerNorm或者用梯度累积模拟大 batch。小 batch 场景下 GroupNorm 通常比 BatchNorm 稳。5.5 模型导出 ONNX 后推理结果对不上现象PyTorch 里推理正常导出 ONNX 后用 onnxruntime 跑结果差很多。原因通常是导出时没设eval()模式Dropout 和 BatchNorm 还在训练态或者输入尺寸是动态的但导出时固定了。解决导出前必须model.eval()用torch.onnx.export时明确input_names、output_names和dynamic_axes导出后用 onnxruntime 跑一遍和 PyTorch 输出对比误差在 1e-4 以内才算通过。model.eval() dummy torch.randn(1, 3, 224, 224).to(device) torch.onnx.export( model, dummy, model.onnx, input_names[input], output_names[output], dynamic_axes{input: {0: batch}, output: {0: batch}}, opset_version12, )dynamic_axes把 batch 维设成动态部署时才能接受任意 batch。opset_version选 11 或 12 兼容性较好太新的算子有些推理引擎不支持。6. 从训练到部署ONNX 导出验证和一个提准确率的具体技巧模型训完不是终点能部署、能复现才算闭环。导出 ONNX 后一定要做数值对齐验证这是上线前的最后一道关。import onnxruntime as ort import numpy as np # PyTorch 输出 model.eval() with torch.no_grad(): torch_out model(dummy).cpu().numpy() # ONNX Runtime 输出 sess ort.InferenceSession(model.onnx, providers[CPUExecutionProvider]) onnx_out sess.run(None, {input: dummy.cpu().numpy()})[0] # 对比最大绝对误差 diff np.abs(torch_out - onnx_out).max() print(fmax diff: {diff:.6f}) # 应小于 1e-4如果误差超标先查model.eval()有没有漏再查输入预处理是否一致归一化参数、通道顺序最后查算子版本。ONNX 验证通过就可以接 TensorRT 或 OpenVINO 进一步加速也可以直接丢给服务端做批量推理。最后说一个我常用的提准确率技巧测试时增强TTA。推理时对同一张图做多次变换原图、水平翻转、多尺度缩放把各次预测概率平均。代价是推理时间翻几倍但通常能白捡一到两个点准确率对精度敏感的场景很值。def predict_tta(model, img, device): model.eval() probs [] with torch.no_grad(): for flip in [False, True]: x torch.flip(img, dims[3]) if flip else img p torch.softmax(model(x.to(device)), dim1) probs.append(p.cpu()) return torch.stack(probs).mean(0) # 平均多次预测TTA 的前提是模型本身已经训好、验证集指标稳定它救不了欠拟合的模型。另外增强方式要和训练时一致训练没用过翻转测试翻转可能反而掉点这个要拿验证集实测。我自己的习惯是任何模型上线前先固定随机种子跑三遍看指标波动范围波动超过一个点就说明训练不稳定别急着部署。卷积神经网络这摊事玄学不少但大部分「玄学」最后都能归到数据、学习率、归一化这三件事上。把这三样盯住剩下的就是耐心调。希望帮到你。本文还有配套的精品资源点击获取
简介这份资源面向深度学习入门者与计算机视觉方向的初学者围绕PyTorch框架下的卷积神经网络实战展开帮助读者理解CNN的基本结构与训练流程。包内共10个文件以4个py脚本和2个pt模型权重为主另含MNIST数据集的图像与标签文件压缩包约19.83MB体量轻便便于本地快速复现。内容涵盖卷积层、池化层、全连接层与ReLU激活的搭建方式以及数据归一化、批加载、交叉熵损失与SGD优化器的完整训练链路并给出测试集准确率评估代码。通过这份资料读者可以掌握从定义SimpleCNN到完成手写数字识别的全流程理解动态计算图在模型调试中的优势并据此调整网络结构与超参数以提升泛化能力。目前已有1605人学习下载适合作为CNN入门的练手项目。1. 从一张 224×224 的图说起PyTorch 卷积神经网络到底在解决什么问题手里有一批图片想让它自动分出「猫、狗、鸟」或者更实际一点——产线上的划痕、裂纹、脏污。传统做法是人工设计特征边缘算子、纹理统计、SIFT 描述子调参调到怀疑人生换个光照条件全部推倒重来。卷积神经网络CNN换了个思路不再手写特征而是让网络自己从数据里学。PyTorch 则是把这套思路落地的工具张量运算、自动求导、GPU 加速、nn.Module封装几行代码就能搭出一个能跑的卷积网络。这篇笔记面向的是想真正把 PyTorch 卷积神经网络跑起来的人刚装完环境不知道下一步写什么的新手以及写过几轮模型但准确率卡住、显存爆炸、训练不收敛的熟手。我会从环境搭建讲到卷积结构设计、训练循环、调参、排错最后落到导出 ONNX 和推理验证。全程用可复现的代码和参数说明不讲空话。卷积神经网络结构图看再多不如自己敲一遍nn.Conv2d来得实在。2. 环境搭建与第一个卷积层PyTorch 安装、CUDA 适配和最小可跑代码2.1 安装 PyTorch 前先确认 CUDA 和显卡驱动很多人卡在第一步torch.cuda.is_available()返回False然后开始到处搜「pytorch 安装教程 gpu」。问题往往不在 PyTorch而在驱动和 CUDA 版本没对上。先看显卡驱动支持的最高 CUDA 版本nvidia-smi输出右上角会显示CUDA Version: 12.x这是驱动支持的最高版本不是你已安装的版本。PyTorch 官方 wheel 自带 CUDA runtime你不需要单独装完整 CUDA Toolkit只要驱动版本够高即可。选安装命令时去 PyTorch 官网选对应 CUDA 版本比如 CUDA 12.1# conda 环境隔离避免污染系统 Python conda create -n cnn python3.10 -y conda activate cnn # 安装带 CUDA 12.1 的 PyTorch版本号以官网当前为准 pip install torch torchvision --index-url https://download.pytorch.org/whl/cu121装完立刻验证别等到写完模型才发现用的是 CPUimport torch print(torch.__version__) # PyTorch 版本 print(torch.cuda.is_available()) # True 才说明 GPU 可用 print(torch.cuda.get_device_name(0)) # 显卡型号 print(torch.cuda.device_count()) # 可用 GPU 数量如果is_available()是False按顺序排查驱动版本是否过低nvidia-smi报错就是驱动问题、装的 wheel 是不是 CPU 版cu后缀才是 GPU 版、conda 环境是否激活正确。WSL 下装 PyTorch 也是同样逻辑先在 Windows 侧装好驱动WSL 里nvidia-smi能通就行。提示不要混用 conda 和 pip 装同一个包容易出现libcudart版本冲突。要么全 conda要么全 pip我一般用 pip 装 PyTorchconda 只管环境。2.2 用 nn.Conv2d 搭一个最小卷积网络环境通了先写一个能跑通前向传播的最小网络理解张量形状怎么变。卷积层的核心参数只有四个in_channels、out_channels、kernel_size、stride/padding。import torch import torch.nn as nn class TinyCNN(nn.Module): def __init__(self, num_classes10): super().__init__() # 输入 3 通道 RGB输出 16 个特征图3x3 卷积核padding1 保持尺寸 self.conv1 nn.Conv2d(3, 16, kernel_size3, stride1, padding1) self.bn1 nn.BatchNorm2d(16) # 批归一化加速收敛 self.relu nn.ReLU(inplaceTrue) self.pool nn.MaxPool2d(2) # 2x2 池化尺寸减半 self.conv2 nn.Conv2d(16, 32, kernel_size3, padding1) self.bn2 nn.BatchNorm2d(32) self.gap nn.AdaptiveAvgPool2d(1) # 全局平均池化输出 1x1 self.fc nn.Linear(32, num_classes) # 分类头 def forward(self, x): x self.pool(self.relu(self.bn1(self.conv1(x)))) # [B,16,H/2,W/2] x self.pool(self.relu(self.bn2(self.conv2(x)))) # [B,32,H/4,W/4] x self.gap(x) # [B,32,1,1] x torch.flatten(x, 1) # [B,32] return self.fc(x) model TinyCNN(num_classes10) x torch.randn(8, 3, 224, 224) # batch8, 3通道, 224x224 out model(x) print(out.shape) # torch.Size([8, 10])逐段说明conv1把 3 通道变成 16 通道padding1配合kernel_size3让宽高不变MaxPool2d(2)把 224 降到 112再过一次池化降到 56AdaptiveAvgPool2d(1)把任意尺寸压成 1×1这样输入图片尺寸变化也不会让全连接层报错。BatchNorm2d放在卷积和激活之间是常见顺序能让训练更稳。参数量上conv1是3×16×3×316448conv2是16×32×3×3324640全连接层32×1010330整个网络不到六千参数适合先跑通流程。注意inplaceTrue的 ReLU 会原地修改输入如果后面还要用同一份张量做残差连接会出问题残差结构里建议用inplaceFalse。3. 数据管道与训练循环把卷积神经网络真正训起来3.1 Dataset 和 DataLoader 的四个必调参数模型搭好只是骨架数据喂不进去等于零。PyTorch 的数据管道是DatasetDataLoader自定义数据集继承torch.utils.data.Dataset实现__len__和__getitem__。from torch.utils.data import Dataset, DataLoader from torchvision import transforms from PIL import Image import os class MyDataset(Dataset): def __init__(self, root, transformNone): self.samples [] # [(图片路径, 标签), ...] self.transform transform for label, cls in enumerate(sorted(os.listdir(root))): cls_dir os.path.join(root, cls) for fname in os.listdir(cls_dir): self.samples.append((os.path.join(cls_dir, fname), label)) def __len__(self): return len(self.samples) def __getitem__(self, idx): path, label self.samples[idx] img Image.open(path).convert(RGB) # 统一转 RGB防止灰度图报错 if self.transform: img self.transform(img) return img, label train_tf transforms.Compose([ transforms.Resize((224, 224)), transforms.RandomHorizontalFlip(), # 数据增强 transforms.ToTensor(), # 转张量并归一化到 [0,1] transforms.Normalize([0.485,0.456,0.406], # ImageNet 均值 [0.229,0.224,0.225]), # ImageNet 标准差 ]) ds MyDataset(data/train, transformtrain_tf) loader DataLoader(ds, batch_size32, shuffleTrue, num_workers4, pin_memoryTrue, drop_lastTrue)四个必调参数batch_size受显存限制224 输入下 32 是常见起点显存不够就降到 16 或 8shuffleTrue只在训练集开验证集必须关否则指标不可复现num_workers是读取进程数Linux 下设成 CPU 核数的一半左右Windows 下建议设 0 避免多进程报错pin_memoryTrue配合 GPU 训练能加快主机到显存的数据拷贝。drop_lastTrue丢掉最后一个不满的 batch避免 BatchNorm 在 batch 只有一两个样本时统计量失真。3.2 训练循环的骨架和损失函数选择训练循环就五步前向、算损失、清梯度、反向、更新。写清楚这五步后面所有花活都是在这上面加。import torch.optim as optim device torch.device(cuda if torch.cuda.is_available() else cpu) model TinyCNN(num_classes10).to(device) criterion nn.CrossEntropyLoss() # 多分类标配 optimizer optim.AdamW(model.parameters(), lr1e-3, weight_decay1e-4) for epoch in range(30): model.train() # 开启 BN 和 Dropout total_loss 0.0 for imgs, labels in loader: imgs, labels imgs.to(device), labels.to(device) optimizer.zero_grad() # 清空上一轮梯度 logits model(imgs) # 前向 loss criterion(logits, labels) # 算损失 loss.backward() # 反向传播 optimizer.step() # 更新参数 total_loss loss.item() print(fepoch {epoch}, loss {total_loss/len(loader):.4f})CrossEntropyLoss内部已经包含 softmax所以模型最后一层输出 logits 就行不要再手动加 softmax否则等于做了两次。AdamW比Adam多了正确的权重衰减实现weight_decay1e-4就是常说的 L2 正则化在 PyTorch 里的落地方式能抑制过拟合。学习率1e-3是 Adam 系优化器的常用起点收敛慢就降到1e-4震荡就再降。model.train()和后面的model.eval()必须成对出现前者让 BatchNorm 用当前 batch 统计量、Dropout 生效后者固定统计量、关闭 Dropout忘了切换是验证指标异常的常见原因。3.3 验证集评估和指标记录训练不看验证集等于闭眼开车。每个 epoch 结束后切到评估模式关掉梯度计算。torch.no_grad() # 评估不需要梯度省显存 def evaluate(model, loader, device): model.eval() correct, total 0, 0 for imgs, labels in loader: imgs, labels imgs.to(device), labels.to(device) logits model(imgs) preds logits.argmax(dim1) # 取最大 logit 对应的类别 correct (preds labels).sum().item() total labels.size(0) return correct / total acc evaluate(model, val_loader, device) print(fval acc: {acc:.4f})torch.no_grad()装饰器让整个函数不构建计算图显存占用大幅下降评估速度也快。argmax(dim1)在类别维度取最大值得到预测类别。验证集准确率连续几个 epoch 不升反降就是过拟合信号该加数据增强、加权重衰减或者早停。训练准确率高但验证低八成是过拟合两个都低是欠拟合该加容量或加训练轮数。4. 卷积结构设计与调参从准确率卡住到显存爆炸的排查4.1 卷积核、通道数、池化的取舍卷积神经网络结构设计的核心就三件事感受野、通道数、下采样节奏。kernel_size3堆两层感受野等于 5×5但参数更少、非线性更强这是 VGG 之后的主流做法。通道数一般从 32 或 64 起步每下采样一次翻倍比如 64→128→256让空间信息减少的同时通道信息增加。池化用MaxPool2d(2)最稳stride2的卷积下采样也可以但会多一份参数。结构选择常见取值适用场景代价卷积核3×3 堆叠通用图像分类层数多训练稍慢卷积核5×5 / 7×7首层大感受野参数平方增长通道数32/64 起步翻倍中小数据集显存随通道平方涨下采样MaxPool2d(2)分类任务丢失部分位置信息下采样stride2 卷积需要可学习下采样多一份参数小数据集几千张别一上来就堆 ResNet-50通道数砍半、层数减到 4~6 层往往效果更好过拟合风险也低。数据量大再考虑深网络加残差连接。4.2 学习率、batch size 和正则化的联动这三个参数不是独立的。batch size 翻倍学习率通常也跟着放大但放大倍数不是线性的经验上开方或线性都有人用我一般先固定 batch size 调学习率。学习率太大表现为 loss 震荡甚至变 NaN太小表现为 loss 几乎不动。判断方法前几十个 step 打印 loss正常应该是先快速下降再平缓。L2 正则化在 PyTorch 里就是优化器的weight_decay1e-4到1e-2之间调。太大模型欠拟合太小没效果。Dropout 用在全连接层前p0.5是经典值卷积层之间一般不用 Dropout用 BatchNorm 就够。数据增强是最便宜的正则化随机裁剪、翻转、颜色抖动能显著缓解过拟合但要注意增强方式不能破坏类别语义比如数字识别里上下翻转就不合适。4.3 显存不够时的四个降级手段显存爆炸CUDA out of memory是训练卷积网络最常见的翻车现场。按代价从低到高排第一降 batch size最直接第二用混合精度训练torch.cuda.amp能把显存占用降三到四成第三梯度累积用小 batch 模拟大 batch第四梯度检查点用时间换显存。from torch.cuda.amp import autocast, GradScaler scaler GradScaler() for imgs, labels in loader: imgs, labels imgs.to(device), labels.to(device) optimizer.zero_grad() with autocast(): # 前向用 fp16省显存提速 logits model(imgs) loss criterion(logits, labels) scaler.scale(loss).backward() # 放大梯度防下溢 scaler.step(optimizer) scaler.update()autocast让卷积和矩阵乘用 fp16GradScaler解决 fp16 梯度下溢问题两者必须配套使用。混合精度在支持 Tensor Core 的显卡上提速明显老卡收益有限。梯度累积则是把多个小 batch 的梯度累加后再更新一次等效于大 batch但 BatchNorm 的统计量还是按小 batch 算这点要注意。5. 避坑与排查卷积神经网络训练里最常见的五个坑5.1 loss 变成 NaN现象训练几个 step 后 loss 直接变nan后续全是nan。原因通常是学习率过大、fp16 溢出没做梯度缩放、或者输入数据里有异常值比如归一化除零。解决先把学习率降一个数量级检查数据归一化是否用了正确的均值和标准差混合精度必须配GradScaler。如果用了自定义损失检查有没有log(0)或除以零。5.2 验证准确率远低于训练准确率现象训练集 99%验证集 60%。原因是过拟合模型把训练集背下来了。解决加数据增强、加weight_decay、加 Dropout、减小模型容量、早停。先确认验证集和训练集没有数据泄漏同一张图同时出现在两边这是最隐蔽的坑划分数据集时按样本或按采集批次分别按随机索引分。5.3 训练速度慢得离谱现象一个 epoch 要跑几小时GPU 利用率却很低。原因多半在数据加载num_workers0时数据读取是单线程阻塞的。解决把num_workers调到 CPU 核数的一半pin_memoryTrue图片提前 resize 缓存成小尺寸别每次从几 MB 的原图解码。用nvidia-smi看 GPU 利用率低于 50% 基本就是数据管道拖后腿。5.4 BatchNorm 在 batch 很小时失效现象batch size 设成 2 或 4训练极不稳定验证指标乱跳。原因是 BatchNorm 依赖 batch 内统计量样本太少统计量噪声大。解决换GroupNorm或LayerNorm或者用梯度累积模拟大 batch。小 batch 场景下 GroupNorm 通常比 BatchNorm 稳。5.5 模型导出 ONNX 后推理结果对不上现象PyTorch 里推理正常导出 ONNX 后用 onnxruntime 跑结果差很多。原因通常是导出时没设eval()模式Dropout 和 BatchNorm 还在训练态或者输入尺寸是动态的但导出时固定了。解决导出前必须model.eval()用torch.onnx.export时明确input_names、output_names和dynamic_axes导出后用 onnxruntime 跑一遍和 PyTorch 输出对比误差在 1e-4 以内才算通过。model.eval() dummy torch.randn(1, 3, 224, 224).to(device) torch.onnx.export( model, dummy, model.onnx, input_names[input], output_names[output], dynamic_axes{input: {0: batch}, output: {0: batch}}, opset_version12, )dynamic_axes把 batch 维设成动态部署时才能接受任意 batch。opset_version选 11 或 12 兼容性较好太新的算子有些推理引擎不支持。6. 从训练到部署ONNX 导出验证和一个提准确率的具体技巧模型训完不是终点能部署、能复现才算闭环。导出 ONNX 后一定要做数值对齐验证这是上线前的最后一道关。import onnxruntime as ort import numpy as np # PyTorch 输出 model.eval() with torch.no_grad(): torch_out model(dummy).cpu().numpy() # ONNX Runtime 输出 sess ort.InferenceSession(model.onnx, providers[CPUExecutionProvider]) onnx_out sess.run(None, {input: dummy.cpu().numpy()})[0] # 对比最大绝对误差 diff np.abs(torch_out - onnx_out).max() print(fmax diff: {diff:.6f}) # 应小于 1e-4如果误差超标先查model.eval()有没有漏再查输入预处理是否一致归一化参数、通道顺序最后查算子版本。ONNX 验证通过就可以接 TensorRT 或 OpenVINO 进一步加速也可以直接丢给服务端做批量推理。最后说一个我常用的提准确率技巧测试时增强TTA。推理时对同一张图做多次变换原图、水平翻转、多尺度缩放把各次预测概率平均。代价是推理时间翻几倍但通常能白捡一到两个点准确率对精度敏感的场景很值。def predict_tta(model, img, device): model.eval() probs [] with torch.no_grad(): for flip in [False, True]: x torch.flip(img, dims[3]) if flip else img p torch.softmax(model(x.to(device)), dim1) probs.append(p.cpu()) return torch.stack(probs).mean(0) # 平均多次预测TTA 的前提是模型本身已经训好、验证集指标稳定它救不了欠拟合的模型。另外增强方式要和训练时一致训练没用过翻转测试翻转可能反而掉点这个要拿验证集实测。我自己的习惯是任何模型上线前先固定随机种子跑三遍看指标波动范围波动超过一个点就说明训练不稳定别急着部署。卷积神经网络这摊事玄学不少但大部分「玄学」最后都能归到数据、学习率、归一化这三件事上。把这三样盯住剩下的就是耐心调。希望帮到你。本文还有配套的精品资源点击获取
