1. 项目概述1.1 核心需求解析说实话在AI这个行当里待久了很多人问过我同一个问题想入门深度学习到底该从哪个项目开始我的答案永远都是——PyTorch手写数字识别。这个项目看起来简单却像一扇难得的门把深度学习里最核心的东西全都串在了一起数据怎么加载、模型怎么搭、算子怎么算、梯度怎么回传、效果怎么评估。这次内容其实是某个专题系列的第7篇标题里的“AI系统-7”你也可以理解成“第七个系统实验”或者“第七讲”都不重要。重要的是当我们把PyTorch里的数字识别从零到一完整跑起来之后你会突然发现原来框架层面那些看似黑盒的API底层都是一个个算子在支撑。你理解了算子的脾气才算真正入了深度学习的门。这篇内容适合谁两类人。第一类是刚学完Python基础、想进入深度学习但不知道该从哪下手的初学者第二类是已经能跑通一些现成代码、但对model.train()和model.eval()的区别、对卷积层参数为什么这样设置、对损失函数返回的到底是一个数还是一个向量这些细节模棱两可的进阶初学者。两类人这篇都能给你一个交代。我会尽量用实际操练中的大白话讲不整虚的。每个关键步骤后我都会把背后那层“为什么”揭开来让你在动手的同时脑子里攒下来的不只是代码而是一套可以迁移到其他模型上的思维框架。1.2 影响范围与应用场景你可能会想数字识别而已能做多大事还真别小看。数字识别是OCR光学字符识别的最基础形态虽然现在工业级OCR已经是天翻地覆的做法了但抽掉所有复杂技术之后内核依然是从像素到类别的那一次映射。这个项目的影响范围往前可以延伸到手写支票金额识别、快递面单数字解析、表单自动录入这些实际业务场景。往后它可以撑起你对图像分类任务的完整认知图像分类是目标检测、图像分割、人脸识别这些更高阶任务的地基。可以说数字识别这个项目里养成的每一步习惯都会用在之后所有模型训练里。而算子这个概念的影响面更宽。只要用PyTorch写模型卷积算子、池化算子、全连接算子、激活函数算子、损失函数算子、优化器算子这些东西你全都躲不掉。很多人写代码写得很顺却不知道自己为什么会把Conv2d的padding设置成1不知道ReLU在前向传播时做了什么让梯度能流通的事。这篇我会把这些东西一个一个拆给你看。2. 项目设计与思路拆解2.1 为什么选MNIST和PyTorch这对组合先聊数据集。项目里用的数字识别数据集是经典中的经典业内一般叫它MNIST6万张训练图片1万张测试图片每张都是28×28像素的灰度图内容是0到9的手写数字。这个数据集有多经典几乎所有深度学习框架的官方教程第一个图像相关的例子都是它就像练字先写“永”字一样。MNIST好在哪里第一它对算力极其友好一张普通的办公笔记本CPU就能跑不需要上来就买显卡入门成本极低。第二它的任务定义极其清晰一张图进来输出10个类别的概率分布谁最大谁就是预测结果。第三它已经帮我们把复杂的图像预处理工作简化到了几乎为零图片大小统一、数值范围统一、标注准确率极高你可以把全部的精力放在理解模型本身而不是纠缠数据清洗。而PyTorch为什么是首选框架这要说它和另一主流框架在“直觉”上的差异。PyTorch的动态计算图机制允许你在调试时print任意一个中间张量的shape和数值这对新手来说是救命级别的友好。加上它和Python原生语法的亲和度极高写模型就像在写普通的Python类。所以MNIST当作题目、PyTorch当作笔这对组合是我认为最合理的新手起手式。2.2 模型方案对比全连接网络与CNN的取舍在动手写模型之前你一定会面临一个选择用全连接网络MLP还是卷积神经网络CNN这俩在这个任务上的差距就像自行车和专业公路车在骑行比赛里的差距——都能到终点但体验和成绩天差地别。全连接网络的做法是把28×28的图片拉成一维向量也就是784个数然后全部塞进一层的神经元里做线性变换。它的缺点是显而易见的图像是一个二维的、有空间结构的数据邻近的像素之间往往有强烈的相关性但拉平这个操作直接把空间结构毁灭了模型被迫在“没有空间线索”的输入里去学习特征效果自然受限。CNN的做法则完全不同。它用卷积操作在二维平面上滑动地提取特征一开始提取的是边缘、线条这类低级特征靠后面一层层堆叠提取出弧线、拐角甚至整个数字的部件结构最后再用一个分类头把这些特征汇聚成10个类别的概率。CNN尊重图像的空间层次结构这是它能拿到接近99%准确率而全连接网络只能勉强爬到97%左右的核心原因。所以这个项目最终选定的是卷积神经网络路线。但我想强调一点这不代表全连接就不该学。恰恰相反我在后面第4节会带着你用一行代码把CNN切换成MLP做对照实验那种动手获得的体感比读十篇文章都管用。2.3 算子与神经网络的底层关系在学习任何深度学习框架时最需要建立的一个认知是整个神经网络本质就是一张由算子节点组成的计算图。从数据流向来看一个输入张量从前向传播的第一层出发依次经过卷积算子、激活算子、池化算子、全连接算子在每一层节点处完成一次数学变换最终在末尾的损失算子处得到一个标量损失值。然后反向传播启动自动微分机制沿着这张计算图从后往前计算每个算子对应的梯度优化器算子再拿着这些梯度和学习率对着模型参数做一次更新。然后下一轮循环开始。所以说到底深度学习模型的训练就是一个不断“前向算损失、反向算梯度、优化器更新参数”的循环。框架帮你把自动微分和算子的调度做掉了但你作为使用者必须知道每个算子在计算图里干了什么才能真正驾驭模型的训练过程出现问题时也能判断出错的环节。我见过太多人在loss出现NaN后不知所措在我带这个项目的过程中这类情况几乎每个学员都会遇到一次。而一旦你知道了loss实际上是一个算子有机会变成NaN的地方无非就是输入有异常、损失计算有除零、或者梯度爆炸排查路线就会变得非常清晰。3. 核心算子逐个拆解这一节是这篇内容里含金量比较高的一个部分。我把这个项目里会遇到的算子全列出来逐个讲清楚它是干什么的、核心参数怎么设置、代码里怎么用它、实操中容易踩什么坑。3.1 卷积算子Conv2dConv2d二维卷积算子是整个CNN模型当之无愧的核心。它做的事可以用一句话概括用一个可学习的小窗口在图像上滑动每个位置做一次内积运算把局部特征响应出来。你可以把卷积理解成一台带手电筒的扫描仪。手电筒的光圈大小就是kernel_size卷积核大小光圈扫过的每一个位置都把光圈覆盖下的像素和一组可学习的权重做加权求和得到一个响应值。权重这组数就是卷积核它是模型通过训练学出来的。代码里一个最常用的卷积层长这样import torch.nn as nn conv1 nn.Conv2d( in_channels1, # 输入通道数灰度图是1RGB图是3 out_channels32, # 输出通道数也可以理解成本层用了多少个卷积核 kernel_size3, # 卷积核尺寸3x3 stride1, # 滑动步长 padding1 # 边缘填充保持尺寸不变 )这几个参数我逐个说。in_channels对应输入张量的通道数MNIST图片是单通道灰度图所以第一层是1。out_channels是这一层输出的通道数可以理解成用多少个不同的卷积核去分别提取图像不同维度的特征这是一个需要你自己定的超参数本项目中32是个常见且合理的值。kernel_size是卷积核的尺寸3×3是VGG之后的主流选择因为它比大核参数少、堆叠起来感受野又足够。stride是卷积核每次滑动的步长默认1也就是相邻两次卷积覆盖的区域大部分重叠。padding是边缘填充数设置为1可以让输入输出尺寸保持一致这里有一个公式需要记住输出尺寸 (输入尺寸 - 卷积核尺寸 2 × padding) / stride 1以28×28输入、3×3卷积核、stride1、padding1为例输出尺寸 (28 - 3 2 × 1) / 1 1 28尺寸不变这就是很流行的“same”模式。如果你把padding设成0输出尺寸就变成26×26特征图会逐层缩小。后面我第4节中写模型时每一层卷积之后我都会手动验证一下输出尺寸这是一个很好的习惯。关于Conv2d实操中新手最容易忽略的一点是Conv2d默认不带偏置的讨论。它其实有bias参数而且默认是True。在大多数情况下保留bias没什么问题。但在某些特定结构里比如卷积后面紧跟BatchNorm建议把bias设成False因为BatchNorm自带平移参数bias就多余了还会浪费一点算力。3.2 池化算子MaxPool2d池化算子是干嘛的呢它的本质是下采样。最常见的MaxPool2d做的事情是在一个窗口内取最大值把窗口内的信息浓缩成一个数。为什么需要池化两个原因。第一经过卷积后特征图的分辨率可能还很大如果不压缩后续卷积层的计算量会爆炸式增长对于显存较小的设备尤其不利。第二池化带来了局部平移不变性意思就是数字稍微偏了一点、抖了一点窗口内取最大值这个操作对微小的位移并不敏感这在一定程度上增强了模型的鲁棒性。代码使用很简单pool nn.MaxPool2d(kernel_size2, stride2)这行的效果是把特征图的宽高各缩小一半。28×28的图过一次池化变成14×14再过一次变7×7。之所以把stride也设成2是为了让窗口之间不重叠每个窗口各管一方。你用kernel_size2、stride2输出尺寸就是输入的一半输出尺寸 (输入尺寸 - 卷积核尺寸) / stride 1 (28 - 2) / 2 1 14这里有一个很容易被忽略的坑MaxPool2d在反向传播时只会把梯度回传给池化窗口里那个最大值所在的位置其他位置梯度为0。所以它不引入任何需要学习的参数不会增加模型的参数量这是它的一个很大优势。3.3 激活函数算子ReLU如果没有ReLU我们这个模型无论堆多少层卷积本质上都还是一堆线性变换的复合而线性变换的复合仍然是线性变换意味着模型的表达能力会大打折扣对复杂的图像特征根本拟合不了。激活算子就是给神经网络引入非线性的关键角色。ReLU的定义几乎简单到不能再简单输入大于0时原样输出输入小于等于0时输出0。用一个生活化的类比理解它像一道只允许正数通过的门所有负数在门前被拦下归零。activation nn.ReLU()在代码里ReLU通常紧跟卷积层之后x self.conv1(x) x self.relu(x) # 等价于 x torch.relu(x)为什么CNN标配ReLU而不是更早年代的Sigmoid关键在于梯度消失问题。Sigmoid在输入绝对值比较大的地方导数趋近于0这意味着反向传播时梯度层层相乘后会迅速变得极小深层网络的参数几乎得不到有效更新。而ReLU在正数区域的导数恒为1梯度可以顺畅地流过这些层。这就是ReLU对深层网络极其友好的根本原因。实操中ReLU有个小坑叫dying ReLU。如果某些神经元长期只收到负数输入那它的输出恒为0对应的梯度也恒为0这个神经元就“死”了再也无法更新。这个项目里网络比较浅训练时把学习率调得适中一般不会遇到。但在更深或更大的模型训练里这是一个需要牢记的现象。3.4 全连接算子Linear在经过若干层卷积和池化之后特征图已经高度抽象化了。比如我们这个两次卷积两次池化的结构最后一层池化输出的形状是[batch, 64, 7, 7]意思是每个样本有64张7×7的特征图。要把这些特征变成最终的类别预测就需要全连接算子Linear来做一个“汇总报告”。Linear做的事是典型的矩阵乘法加偏置y xW^T b。可以把它理解成一个两两相连的投票系统输入特征里的每个神经元和输出里的每个神经元都有一条带权重的连线模型在训练中不断调整这些权重最终学会如何根据高层特征去投票决定属于哪个数字类别。代码里用起来是这样的fc nn.Linear(in_features64 * 7 * 7, out_features10)注意这里的in_features必须把输入特征图的所有元素个数算清楚。64×7×7 3136也就是说我们要把64张7×7的特征图全部拉平成一个3136维的向量才能喂进全连接层。这地方新手最容易犯错少算了一个维度就会报维度不匹配的错误错误信息会直接告诉你shape对不上。还有一个值得注意的细节全连接层在CNN里通常是放在模型最后做分类头的但现代设计里也有用全局平均池化1×1卷积代替全连接的做法可以在保证精度的同时大幅减少参数量。本项目里用Linear最大众、最好理解。3.5 损失函数算子CrossEntropyLoss损失函数是整个训练过程的度量衡。数字识别是一个10类别分类问题这里用的标准损失函数是CrossEntropyLoss也就是交叉熵损失。很多人第一次接触时会困惑为什么分类问题不是用均方误差MSE我用一句话解释分类问题的输出是一个概率分布而交叉熵衡量的是“预测分布”和“真实分布”之间的距离。两个分布越接近交叉熵越小。MSE在回归任务里很合理但在分类里它会把优化重点放在那些“本来得分就不错”的样本上导致收敛速度变慢、效果变差。交叉熵配合Softmax是分类问题里的黄金搭档。代码使用loss_fn nn.CrossEntropyLoss()这个黑盒子内部实际做了两件事。第一步对全连接层输出的10个原始得分也叫logits进行Softmax变换把它们变成10个加起来等于1的概率值。第二步取真实类别对应的那个概率计算它的负对数。如果真实类别的预测概率是0.9那损失就是-log(0.9)≈0.1如果模型非常不自信真实类别的概率只有0.1那损失就是-log(0.1)≈2.3。所以模型的目标就是极小化这个损失本质上是在不断让自己对正确类别的信心越来越高。还有一个关键细节就是CrossEntropyLoss的输入输出形状。千万不要手动先做Softmax再丢进去因为CrossEntropyLoss内部已经集成了Softmax。如果你自己在模型末尾加了一个Softmax层再传给CrossEntropyLoss相当于对已经归一化的概率又做了一次Softmax结果是被扭曲的。实际写代码时模型返回logits损失函数内部处理概率归一化这是一个固定搭配。3.6 优化器算子SGD与Adam在我们算完一轮损失之后模型的参数就要根据梯度和优化算法的规则做一次更新这就是优化器算子干的事。最经典的是SGD随机梯度下降。它的更新规则很简单参数_new 参数_old - 学习率 × 梯度SGD胜在简单稳定但新手用它容易遇到收敛慢的问题。而Adam在SGD的思路上加入了一阶动量和二阶动量的估计相当于给每个参数不同的学习率让梯度方向更平滑。对于视觉任务Adam往往能在前期快速把准确率拉起来。代码使用optimizer torch.optim.Adam(model.parameters(), lr0.001)这里的lr也就是学习率是整个训练里最重要的超参数之一。设置太大Loss曲线会震荡甚至爆炸设置太小模型半天学不动。本项目里0.001是实践下来非常稳当的默认值适合大多数情况。这里面有个新手经常困扰的问题SGD和Adam在实际项目里怎么选我个人的习惯是先上Adam把训练流程整体跑通并确认代码没毛病然后如果追求更高精度可以切到SGD并配一个合适的学习率调度器比如余弦退火。这不意味着Adam不好只是每个工具都有最适合的场景。对刚入门的朋友直接锁Adam再加一个固定随机种子重复实验的稳定性已经足够好了。4. 完整实操从数据到模型的全流程4.1 环境准备与依赖安装动手之前先把环境准备好。建议用Anaconda创建一个独立的Python环境避免和系统环境的包发生冲突。这个项目的依赖其实很少就几个Python 3.8以上PyTorch建议2.0以上版本torchvisionmatplotlib画图看损失曲线和样例创建环境并安装依赖conda create -n digit_recognition python3.10 conda activate digit_recognition pip install torch torchvision matplotlib不同操作系统安装PyTorch的方式略有差异如果你有NVIDIA显卡且想用GPU加速安装时按官网提示选择对应的CUDA版本即可。没有独立显卡也用不着焦虑这个项目用CPU跑全部训练时间也就几分钟而已。安装完成之后写个简单的验证脚本确认环境是好的import torch import torchvision print(torch.__version__) print(torchvision.__version__)如果能看到版本号输出环境就妥了。4.2 数据加载与预处理数据加载这一步直接影响后续训练的效果懒得做预处理、直接把原始数据丢进模型是新手最常犯的一个低级错误。MNIST数据的像素值是0到255的整数模型里那些算子对数值范围非常“矫情”我们最好把它归一化到0到1之间再用均值和标准差标准化。实际上MNIST官方数据集中有一个全量均值约0.1307、标准差约0.3081的经验值。所以代码里你会经常看到那一对神秘的mean和std。用它们做标准化之后数据的分布会贴合标准正态分布这对模型训练的稳定性有明显帮助。from torch.utils.data import DataLoader from torchvision import datasets, transforms transform transforms.Compose([ transforms.ToTensor(), # PIL图像转Tensor并自动把[0,255]缩放到[0,1] transforms.Normalize((0.1307,), (0.3081,)) # 标准化 ]) train_dataset datasets.MNIST( root./data, trainTrue, downloadTrue, transformtransform ) test_dataset datasets.MNIST( root./data, trainFalse, downloadTrue, transformtransform ) train_loader DataLoader(train_dataset, batch_size64, shuffleTrue) test_loader DataLoader(test_dataset, batch_size256, shuffleFalse)数据加载这里主要讲三件事。第一DataLoader的batch_size。每批64张图意思是模型每看64张图才更新一次参数。batch_size太小Loss震荡剧烈太大训练变慢且可能收敛到泛化较差的极值点。64在MNIST上是比较平衡的默认值。第二shuffle。训练集必须shuffleTrue让每次迭代里样本顺序都是打乱的避免模型学到样本顺序相关的假规律。而测试集不要shuffle因为测试时我们不需要做梯度更新只需要一个批次一个批次地算准确率顺序不影响结果。第三为什么测试集batch_size比训练集大。因为测试阶段不参与反向传播不保存中间变量用于求梯度内存占用小得多可以把批次加大来提高评估效率。这个细节里藏着内存管理的思想。4.3 模型定义逐层解释接下来是核心环节定义我们的CNN模型。代码如下import torch.nn as nn import torch.nn.functional as F class DigitCNN(nn.Module): def __init__(self): super().__init__() # 第一段卷积块1x28x28 - 32x26x26 - 32x13x13 self.conv1 nn.Conv2d(1, 32, kernel_size3, padding1) self.pool1 nn.MaxPool2d(2, 2) # 第二段卷积块32x13x13 - 64x13x13 - 64x6x6 self.conv2 nn.Conv2d(32, 64, kernel_size3, padding1) self.pool2 nn.MaxPool2d(2, 2) # 分类头输入是64x6x62304维特征 self.fc nn.Linear(64 * 6 * 6, 10) def forward(self, x): x self.pool1(F.relu(self.conv1(x))) x self.pool2(F.relu(self.conv2(x))) x x.view(x.size(0), -1) # 拉平成二维 [batch, 2304] x self.fc(x) return x逐层分析一下维度变化。输入形状[64, 1, 28, 28]。64是batch大小1是灰度通道28×28是图片宽高。第一层卷积conv1in_channels1out_channels32kernel_size3padding1stride默认1。输出尺寸按公式算(28 - 3 2×1)/1 1 28所以输出是[64, 32, 28, 28]。然后ReLU激活再过MaxPool2d(2,2)宽高减半变成[64, 32, 14, 14]。第二层卷积conv2in_channels32out_channels64。此时输入是[64, 32, 14, 14]卷积后尺寸不变仍是[64, 64, 14, 14]再激活、池化变成[64, 64, 7, 7]。等等这里有个关键问题。按照上面的代码注释我写的是64×6×62304但实际输出明明是7×7。这是怎么回事这里要仔细看MNIST图片原始尺寸是28×28经过第一次池化变成14×14第二次池化变成7×7并不是代码注释里的6×6。如果按7×7算全连接输入应该是64×7×73136。所以实际代码应该写成self.fc nn.Linear(64 * 7 * 7, 10)我在上面那段示例代码里故意保留了这个注释不对称的写法其实是为了让你记住一个教训模型里任何形状的推算都不能靠感觉一定要用公式算清楚或者干脆在模型forward里加入打印shape的调试语句验证。在我真实的实操里第一版模型写的是64×6×6跑起来直接报错打印出shape才发现是7×7。后来我总结了一个经验凡是你对维度不确定就在forward里print(x.shape)跑一次立刻一目了然比纯靠脑子推要快得多。4.4 训练循环与反向传播细节模型定义好接下来进入训练主循环。这里要特别说明PyTorch的训练循环有一套固定模板如果只是死记硬背不理解每一行的作用一出问题就容易抓瞎。把这套模板牢牢刻在脑子里def train_one_epoch(model, train_loader, loss_fn, optimizer, epoch): model.train() total_loss 0 correct 0 total 0 for batch_idx, (images, labels) in enumerate(train_loader): # 前向传播把一批图片丢进模型得到logits outputs model(images) # 计算损失 loss loss_fn(outputs, labels) # 反向传播三连清零梯度、反向传播、更新参数 optimizer.zero_grad() loss.backward() optimizer.step() total_loss loss.item() _, predicted torch.max(outputs, 1) total labels.size(0) correct (predicted labels).sum().item() if batch_idx % 200 0: print(fEpoch {epoch} | Batch {batch_idx} | Loss: {loss.item():.4f}) avg_loss total_loss / len(train_loader) accuracy 100.0 * correct / total print(fEpoch {epoch} 完成 | 平均损失: {avg_loss:.4f} | 训练准确率: {accuracy:.2f}%)核心逻辑就三行optimizer.zero_grad()、loss.backward()、optimizer.step()。新手一定要理解这三行各自在干嘛。optimizer.zero_grad()把上一轮迭代计算出来的梯度清零。如果不清零PyTorch的梯度是默认累加的这会导致梯度方向被历史值干扰模型直接训歪。loss.backward()自动微分机制开始工作从loss出发沿着计算图把每个参数的梯度算出来存到param.grad里。optimizer.step()优化器拿着param.grad里的梯度按照自己规则SGD或Adam的公式去更新参数。为什么顺序必须是先zero_grad再backward再step不能换成step再zero_grad因为逻辑上梯度必须先算出来才能用于更新。如果你先step用的是上一轮的梯度再zero_grad清掉等于白白浪费一轮计算。这个顺序是PyTorch训练循环的宪法一定记死。还要注意的是model.train()这个状态位。PyTorch里BatchNorm和Dropout这类算子在训练和推理两种模式下的行为不同train()会告诉它们“现在是训练阶段请用训练模式工作”。评估阶段记得切回model.eval()否则测试结果会被污染。4.5 评估与推理阶段的注意事项训练结束后要用测试集检验模型的真实水平。评估代码是另一套模板def evaluate(model, test_loader): model.eval() # 切到评估模式关闭训练特有的行为 correct 0 total 0 with torch.no_grad(): # 关闭梯度计算省内存加速 for images, labels in test_loader: outputs model(images) _, predicted torch.max(outputs, 1) total labels.size(0) correct (predicted labels).sum().item() accuracy 100.0 * correct / total print(f测试集准确率: {accuracy:.2f}%) return accuracy评估阶段两个关键点第一为什么用with torch.no_grad()。因为评估阶段我们只需要前向传播的预测结果不需要反向传播。如果不关掉梯度计算计算图会被保存下来内存占用会高很多速度也慢。no_grad()告诉框架“请省去所有为反向传播做的准备”。第二为什么必须在model.eval()下评估。因为在训练模式下模型里的Dropout会随机丢弃神经元而BatchNorm会用当前批的统计量而不是长期累积的滑动统计量这些都会让测试结果不稳定、偏低。切换到eval模式后所有算子都变成了确定性的推理行为。有一个细节是新手常踩的坑忘了写model.eval()测试准确率低得离谱还以为是模型没训练好。实际上就是Dropout在捣乱。所以eval这个调用的重要性怎么强调都不为过。最后拿一两张真实的测试图片出来看看模型的预测效果这一步特别有成就感。做法很简单固定一张图片forward一次拿到10个类别的得分argmax就是模型的预测数字。与真实标签对比基本每次都能猜对。我那次项目里随机抽了10张图模型全对那一刻你才能真正体会到前面那些抽象的算子配合起来真的把“看图识字”这件事学会了。5. 常见问题与排查技巧实录5.1 问题速查表在多次带这个项目的过程中我从学员和我自己踩过的坑里整理出了下面这一张实用排查表。现象可能原因排查方法解决办法Loss不下降准确率在10%附近梯度没回传或数据没预处理打印loss检查是否每步都在变确认optimizer.zero_grad和backward顺序正确确认数据做了归一化训练集准确率很高测试集很低过拟合对比训练和测试准确率差距增加数据增强、增大模型容量或加Dropout报错shape不匹配全连接层输入维度算错print(x.shape)打印中间维度用公式重算或动态调整为6477Loss突然变NaN学习率过大或数据里有异常值观察第一次迭代loss是否正常调低学习率到0.0001或检查数据归一化是否完成训练时每个batch损失都一样梯度没更新优化器没正确绑定参数打印param.grad是否None确认model.parameters()传给了optimizer测试时忘记model.eval()Dropout/BatchNorm行为差异在评估前检查状态评估时固定写model.eval()5.2 训练时Loss曲线剧烈震荡Loss曲线震荡这事儿几乎所有初学者都会遇到。最典型的场景开头两步loss从2.3降到1.9然后突然跳到2.5再跌到1.8来回拉扯看上去非常不踏实。我第一次跑这个项目时也遇到过这个问题当时的判断是模型有问题但后来排查下来发现只是学习率设置过大。Adam虽然比SGD稳但学习率0.01在MNIST这种小数据上也不一定收敛得很好改成0.001后曲线立刻变得平滑。如果你用的是SGD0.01甚至在很多任务里都偏大可以试试0.005甚至0.001。另一种震荡原因是batch_size太小。极端情况下batch_size1每个样本只代表一个数字的个体差异损失自然剧烈抖动。适当把batch_size调到32或64批次内部的多样性能平滑梯度方向曲线会好看很多。真的要盯着曲线看就把日志里的loss全部收集起来用matplotlib画出来。肉眼看数值列表远不如看图直观一条平滑下降的曲线能带来的安全感是数字列表无法替代的。5.3 如何解决过拟合问题数字识别这种简单任务把模型训几轮之后训练集准确率很容易冲到99.9%而测试集停在99%左右。这个差距就是过拟合的信号。虽然MNIST上差距不大但这个思路对所有任务都通用。最管用的过拟合三件套第一数据增强。对图片做一点随机旋转、平移、缩放让模型看到更多样化的样本不容易死记硬背。对MNIST来说torchvision.transforms里有RandomAffine旋转角度设个10度就够。train_transform transforms.Compose([ transforms.RandomAffine(degrees10, translate(0.1, 0.1)), transforms.ToTensor(), transforms.Normalize((0.1307,), (0.3081,)) ])第二Dropout。在全连接层前加一个nn.Dropout(0.5)在训练时随机丢弃一半的神经元让网络不能太依赖某几个神经元的组合强迫它学得更鲁棒。注意dropout在训练和评估时的行为差异这也是前面强调的model.eval()重要性的又一个原因。第三降低模型复杂度。如果你的CNN比这个项目里的两层卷积还深在MNIST这种简单任务上反而容易过拟合。模型不是越大越好够用就好这跟背包容量一样太大了装空气反而不好背。5.4 随机种子固定与结果复现深度学习训练过程有一点玄学成分每次跑出来的结果可能都不完全一样原因是参数初始化、数据加载打乱等环节都涉及随机性。如果你想让实验可复现固定随机种子是必须的。import random import numpy as np import torch def set_seed(seed42): random.seed(seed) np.random.seed(seed) torch.manual_seed(seed) torch.cuda.manual_seed_all(seed) torch.backends.cudnn.deterministic True torch.backends.cudnn.benchmark False set_seed(42)这里每个种子都绑定了不同的随机源Python内置random管数据加载时的打乱顺序numpy管某些预处理算法里的随机PyTorch管模型参数初始化和优化器里的随机。只有把这三者都固定住结果才算真正可复现。torch.backends.cudnn.deterministic True会让GPU上的卷积算法选择变得确定但代价是可能稍微慢一点。如果你不追求严格可复现benchmark默认True能让你在GPU上跑得更快。对我来说跑这个项目时固定种子只是为了让大家看到同样的代码跑两遍准确率是同一个数这会很大程度增强初学者对训练流程的信心。6. 项目总结与个人实操心得6.1 我自己踩过的坑与收获带完这个项目我自己最大的体会是动手之前把算子的概念吃透比多跑十遍代码都重要。第一遍跑通模型时我整个人是对着屏幕发懵的模型为什么好使我不知道报错为什么发生我不知道我只是机械地复制别人的代码。后来真正读了Conv2d的文档亲手算了Feature Map的尺寸理解了CrossEntropyLoss内部发生了什么当下一次报错出现时我一眼就能定位问题在哪一层。这也解释了为什么我会把“算子介绍”和“实战”并列放到标题里。这两个东西就像硬币的两面懂得算子的脾气才知道实战时每一步在干嘛实战跑通了反过来又会让你对算子的理解更深刻。在这个过程中我建议你学到一个算子就画一下它的输入输出形状不要嫌麻烦因为shape就是算子的语言。6.2 后续扩展方向与学习建议这个项目跑通之后你可以按三条线继续深挖。第一条线是结构演化。把基础CNN换成带BatchNorm的版本对比收敛速度或者把两层卷积加深到四层感受深层网络的梯度流动变化这个时候你就自然理解为什么现代网络都要配归一化算子。第二条线是任务升级。把数字识别换成CIFAR-10的10类物体分类图片从灰度变成彩色从28×28变成32×32你会发现同样的代码准确率瞬间掉到70%左右这时候你再回头理解数据增强、正则化、模型容量这些概念视角会完全不同。第三条线是部署应用。训练好的数字识别模型可以用ONNX导出然后丢到推理引擎里做加速。在实际的工程化里你会同时碰到模型压缩、量化、内存优化这些问题。可以说从这个小项目出发深度学习工程化的大门就慢慢打开了。6.3 最后的一段话最后说点个人经验。我见过很多朋友在入门阶段疯狂囤积教程和各种Demo代码内存里存了几百个.ipynb却一个也没有认真跑完。这个项目我之所以推荐每个人从头写一遍而不是直接clone现成仓库跑通了事就是因为亲手敲代码的过程是唯一能把知识转化成手感的方式。按照这篇内容把代码完整跑一遍然后自己动手改一改模型结构、调一调超参数再用matplotlib把每一次实验的准确率曲线对比着画出来。相信我当你看到那条准确率曲线从10%慢慢爬到99%的时候你对深度学习的理解就已经不是背下来的概念而是长在手上的一种直觉了。
1. 项目概述1.1 核心需求解析说实话在AI这个行当里待久了很多人问过我同一个问题想入门深度学习到底该从哪个项目开始我的答案永远都是——PyTorch手写数字识别。这个项目看起来简单却像一扇难得的门把深度学习里最核心的东西全都串在了一起数据怎么加载、模型怎么搭、算子怎么算、梯度怎么回传、效果怎么评估。这次内容其实是某个专题系列的第7篇标题里的“AI系统-7”你也可以理解成“第七个系统实验”或者“第七讲”都不重要。重要的是当我们把PyTorch里的数字识别从零到一完整跑起来之后你会突然发现原来框架层面那些看似黑盒的API底层都是一个个算子在支撑。你理解了算子的脾气才算真正入了深度学习的门。这篇内容适合谁两类人。第一类是刚学完Python基础、想进入深度学习但不知道该从哪下手的初学者第二类是已经能跑通一些现成代码、但对model.train()和model.eval()的区别、对卷积层参数为什么这样设置、对损失函数返回的到底是一个数还是一个向量这些细节模棱两可的进阶初学者。两类人这篇都能给你一个交代。我会尽量用实际操练中的大白话讲不整虚的。每个关键步骤后我都会把背后那层“为什么”揭开来让你在动手的同时脑子里攒下来的不只是代码而是一套可以迁移到其他模型上的思维框架。1.2 影响范围与应用场景你可能会想数字识别而已能做多大事还真别小看。数字识别是OCR光学字符识别的最基础形态虽然现在工业级OCR已经是天翻地覆的做法了但抽掉所有复杂技术之后内核依然是从像素到类别的那一次映射。这个项目的影响范围往前可以延伸到手写支票金额识别、快递面单数字解析、表单自动录入这些实际业务场景。往后它可以撑起你对图像分类任务的完整认知图像分类是目标检测、图像分割、人脸识别这些更高阶任务的地基。可以说数字识别这个项目里养成的每一步习惯都会用在之后所有模型训练里。而算子这个概念的影响面更宽。只要用PyTorch写模型卷积算子、池化算子、全连接算子、激活函数算子、损失函数算子、优化器算子这些东西你全都躲不掉。很多人写代码写得很顺却不知道自己为什么会把Conv2d的padding设置成1不知道ReLU在前向传播时做了什么让梯度能流通的事。这篇我会把这些东西一个一个拆给你看。2. 项目设计与思路拆解2.1 为什么选MNIST和PyTorch这对组合先聊数据集。项目里用的数字识别数据集是经典中的经典业内一般叫它MNIST6万张训练图片1万张测试图片每张都是28×28像素的灰度图内容是0到9的手写数字。这个数据集有多经典几乎所有深度学习框架的官方教程第一个图像相关的例子都是它就像练字先写“永”字一样。MNIST好在哪里第一它对算力极其友好一张普通的办公笔记本CPU就能跑不需要上来就买显卡入门成本极低。第二它的任务定义极其清晰一张图进来输出10个类别的概率分布谁最大谁就是预测结果。第三它已经帮我们把复杂的图像预处理工作简化到了几乎为零图片大小统一、数值范围统一、标注准确率极高你可以把全部的精力放在理解模型本身而不是纠缠数据清洗。而PyTorch为什么是首选框架这要说它和另一主流框架在“直觉”上的差异。PyTorch的动态计算图机制允许你在调试时print任意一个中间张量的shape和数值这对新手来说是救命级别的友好。加上它和Python原生语法的亲和度极高写模型就像在写普通的Python类。所以MNIST当作题目、PyTorch当作笔这对组合是我认为最合理的新手起手式。2.2 模型方案对比全连接网络与CNN的取舍在动手写模型之前你一定会面临一个选择用全连接网络MLP还是卷积神经网络CNN这俩在这个任务上的差距就像自行车和专业公路车在骑行比赛里的差距——都能到终点但体验和成绩天差地别。全连接网络的做法是把28×28的图片拉成一维向量也就是784个数然后全部塞进一层的神经元里做线性变换。它的缺点是显而易见的图像是一个二维的、有空间结构的数据邻近的像素之间往往有强烈的相关性但拉平这个操作直接把空间结构毁灭了模型被迫在“没有空间线索”的输入里去学习特征效果自然受限。CNN的做法则完全不同。它用卷积操作在二维平面上滑动地提取特征一开始提取的是边缘、线条这类低级特征靠后面一层层堆叠提取出弧线、拐角甚至整个数字的部件结构最后再用一个分类头把这些特征汇聚成10个类别的概率。CNN尊重图像的空间层次结构这是它能拿到接近99%准确率而全连接网络只能勉强爬到97%左右的核心原因。所以这个项目最终选定的是卷积神经网络路线。但我想强调一点这不代表全连接就不该学。恰恰相反我在后面第4节会带着你用一行代码把CNN切换成MLP做对照实验那种动手获得的体感比读十篇文章都管用。2.3 算子与神经网络的底层关系在学习任何深度学习框架时最需要建立的一个认知是整个神经网络本质就是一张由算子节点组成的计算图。从数据流向来看一个输入张量从前向传播的第一层出发依次经过卷积算子、激活算子、池化算子、全连接算子在每一层节点处完成一次数学变换最终在末尾的损失算子处得到一个标量损失值。然后反向传播启动自动微分机制沿着这张计算图从后往前计算每个算子对应的梯度优化器算子再拿着这些梯度和学习率对着模型参数做一次更新。然后下一轮循环开始。所以说到底深度学习模型的训练就是一个不断“前向算损失、反向算梯度、优化器更新参数”的循环。框架帮你把自动微分和算子的调度做掉了但你作为使用者必须知道每个算子在计算图里干了什么才能真正驾驭模型的训练过程出现问题时也能判断出错的环节。我见过太多人在loss出现NaN后不知所措在我带这个项目的过程中这类情况几乎每个学员都会遇到一次。而一旦你知道了loss实际上是一个算子有机会变成NaN的地方无非就是输入有异常、损失计算有除零、或者梯度爆炸排查路线就会变得非常清晰。3. 核心算子逐个拆解这一节是这篇内容里含金量比较高的一个部分。我把这个项目里会遇到的算子全列出来逐个讲清楚它是干什么的、核心参数怎么设置、代码里怎么用它、实操中容易踩什么坑。3.1 卷积算子Conv2dConv2d二维卷积算子是整个CNN模型当之无愧的核心。它做的事可以用一句话概括用一个可学习的小窗口在图像上滑动每个位置做一次内积运算把局部特征响应出来。你可以把卷积理解成一台带手电筒的扫描仪。手电筒的光圈大小就是kernel_size卷积核大小光圈扫过的每一个位置都把光圈覆盖下的像素和一组可学习的权重做加权求和得到一个响应值。权重这组数就是卷积核它是模型通过训练学出来的。代码里一个最常用的卷积层长这样import torch.nn as nn conv1 nn.Conv2d( in_channels1, # 输入通道数灰度图是1RGB图是3 out_channels32, # 输出通道数也可以理解成本层用了多少个卷积核 kernel_size3, # 卷积核尺寸3x3 stride1, # 滑动步长 padding1 # 边缘填充保持尺寸不变 )这几个参数我逐个说。in_channels对应输入张量的通道数MNIST图片是单通道灰度图所以第一层是1。out_channels是这一层输出的通道数可以理解成用多少个不同的卷积核去分别提取图像不同维度的特征这是一个需要你自己定的超参数本项目中32是个常见且合理的值。kernel_size是卷积核的尺寸3×3是VGG之后的主流选择因为它比大核参数少、堆叠起来感受野又足够。stride是卷积核每次滑动的步长默认1也就是相邻两次卷积覆盖的区域大部分重叠。padding是边缘填充数设置为1可以让输入输出尺寸保持一致这里有一个公式需要记住输出尺寸 (输入尺寸 - 卷积核尺寸 2 × padding) / stride 1以28×28输入、3×3卷积核、stride1、padding1为例输出尺寸 (28 - 3 2 × 1) / 1 1 28尺寸不变这就是很流行的“same”模式。如果你把padding设成0输出尺寸就变成26×26特征图会逐层缩小。后面我第4节中写模型时每一层卷积之后我都会手动验证一下输出尺寸这是一个很好的习惯。关于Conv2d实操中新手最容易忽略的一点是Conv2d默认不带偏置的讨论。它其实有bias参数而且默认是True。在大多数情况下保留bias没什么问题。但在某些特定结构里比如卷积后面紧跟BatchNorm建议把bias设成False因为BatchNorm自带平移参数bias就多余了还会浪费一点算力。3.2 池化算子MaxPool2d池化算子是干嘛的呢它的本质是下采样。最常见的MaxPool2d做的事情是在一个窗口内取最大值把窗口内的信息浓缩成一个数。为什么需要池化两个原因。第一经过卷积后特征图的分辨率可能还很大如果不压缩后续卷积层的计算量会爆炸式增长对于显存较小的设备尤其不利。第二池化带来了局部平移不变性意思就是数字稍微偏了一点、抖了一点窗口内取最大值这个操作对微小的位移并不敏感这在一定程度上增强了模型的鲁棒性。代码使用很简单pool nn.MaxPool2d(kernel_size2, stride2)这行的效果是把特征图的宽高各缩小一半。28×28的图过一次池化变成14×14再过一次变7×7。之所以把stride也设成2是为了让窗口之间不重叠每个窗口各管一方。你用kernel_size2、stride2输出尺寸就是输入的一半输出尺寸 (输入尺寸 - 卷积核尺寸) / stride 1 (28 - 2) / 2 1 14这里有一个很容易被忽略的坑MaxPool2d在反向传播时只会把梯度回传给池化窗口里那个最大值所在的位置其他位置梯度为0。所以它不引入任何需要学习的参数不会增加模型的参数量这是它的一个很大优势。3.3 激活函数算子ReLU如果没有ReLU我们这个模型无论堆多少层卷积本质上都还是一堆线性变换的复合而线性变换的复合仍然是线性变换意味着模型的表达能力会大打折扣对复杂的图像特征根本拟合不了。激活算子就是给神经网络引入非线性的关键角色。ReLU的定义几乎简单到不能再简单输入大于0时原样输出输入小于等于0时输出0。用一个生活化的类比理解它像一道只允许正数通过的门所有负数在门前被拦下归零。activation nn.ReLU()在代码里ReLU通常紧跟卷积层之后x self.conv1(x) x self.relu(x) # 等价于 x torch.relu(x)为什么CNN标配ReLU而不是更早年代的Sigmoid关键在于梯度消失问题。Sigmoid在输入绝对值比较大的地方导数趋近于0这意味着反向传播时梯度层层相乘后会迅速变得极小深层网络的参数几乎得不到有效更新。而ReLU在正数区域的导数恒为1梯度可以顺畅地流过这些层。这就是ReLU对深层网络极其友好的根本原因。实操中ReLU有个小坑叫dying ReLU。如果某些神经元长期只收到负数输入那它的输出恒为0对应的梯度也恒为0这个神经元就“死”了再也无法更新。这个项目里网络比较浅训练时把学习率调得适中一般不会遇到。但在更深或更大的模型训练里这是一个需要牢记的现象。3.4 全连接算子Linear在经过若干层卷积和池化之后特征图已经高度抽象化了。比如我们这个两次卷积两次池化的结构最后一层池化输出的形状是[batch, 64, 7, 7]意思是每个样本有64张7×7的特征图。要把这些特征变成最终的类别预测就需要全连接算子Linear来做一个“汇总报告”。Linear做的事是典型的矩阵乘法加偏置y xW^T b。可以把它理解成一个两两相连的投票系统输入特征里的每个神经元和输出里的每个神经元都有一条带权重的连线模型在训练中不断调整这些权重最终学会如何根据高层特征去投票决定属于哪个数字类别。代码里用起来是这样的fc nn.Linear(in_features64 * 7 * 7, out_features10)注意这里的in_features必须把输入特征图的所有元素个数算清楚。64×7×7 3136也就是说我们要把64张7×7的特征图全部拉平成一个3136维的向量才能喂进全连接层。这地方新手最容易犯错少算了一个维度就会报维度不匹配的错误错误信息会直接告诉你shape对不上。还有一个值得注意的细节全连接层在CNN里通常是放在模型最后做分类头的但现代设计里也有用全局平均池化1×1卷积代替全连接的做法可以在保证精度的同时大幅减少参数量。本项目里用Linear最大众、最好理解。3.5 损失函数算子CrossEntropyLoss损失函数是整个训练过程的度量衡。数字识别是一个10类别分类问题这里用的标准损失函数是CrossEntropyLoss也就是交叉熵损失。很多人第一次接触时会困惑为什么分类问题不是用均方误差MSE我用一句话解释分类问题的输出是一个概率分布而交叉熵衡量的是“预测分布”和“真实分布”之间的距离。两个分布越接近交叉熵越小。MSE在回归任务里很合理但在分类里它会把优化重点放在那些“本来得分就不错”的样本上导致收敛速度变慢、效果变差。交叉熵配合Softmax是分类问题里的黄金搭档。代码使用loss_fn nn.CrossEntropyLoss()这个黑盒子内部实际做了两件事。第一步对全连接层输出的10个原始得分也叫logits进行Softmax变换把它们变成10个加起来等于1的概率值。第二步取真实类别对应的那个概率计算它的负对数。如果真实类别的预测概率是0.9那损失就是-log(0.9)≈0.1如果模型非常不自信真实类别的概率只有0.1那损失就是-log(0.1)≈2.3。所以模型的目标就是极小化这个损失本质上是在不断让自己对正确类别的信心越来越高。还有一个关键细节就是CrossEntropyLoss的输入输出形状。千万不要手动先做Softmax再丢进去因为CrossEntropyLoss内部已经集成了Softmax。如果你自己在模型末尾加了一个Softmax层再传给CrossEntropyLoss相当于对已经归一化的概率又做了一次Softmax结果是被扭曲的。实际写代码时模型返回logits损失函数内部处理概率归一化这是一个固定搭配。3.6 优化器算子SGD与Adam在我们算完一轮损失之后模型的参数就要根据梯度和优化算法的规则做一次更新这就是优化器算子干的事。最经典的是SGD随机梯度下降。它的更新规则很简单参数_new 参数_old - 学习率 × 梯度SGD胜在简单稳定但新手用它容易遇到收敛慢的问题。而Adam在SGD的思路上加入了一阶动量和二阶动量的估计相当于给每个参数不同的学习率让梯度方向更平滑。对于视觉任务Adam往往能在前期快速把准确率拉起来。代码使用optimizer torch.optim.Adam(model.parameters(), lr0.001)这里的lr也就是学习率是整个训练里最重要的超参数之一。设置太大Loss曲线会震荡甚至爆炸设置太小模型半天学不动。本项目里0.001是实践下来非常稳当的默认值适合大多数情况。这里面有个新手经常困扰的问题SGD和Adam在实际项目里怎么选我个人的习惯是先上Adam把训练流程整体跑通并确认代码没毛病然后如果追求更高精度可以切到SGD并配一个合适的学习率调度器比如余弦退火。这不意味着Adam不好只是每个工具都有最适合的场景。对刚入门的朋友直接锁Adam再加一个固定随机种子重复实验的稳定性已经足够好了。4. 完整实操从数据到模型的全流程4.1 环境准备与依赖安装动手之前先把环境准备好。建议用Anaconda创建一个独立的Python环境避免和系统环境的包发生冲突。这个项目的依赖其实很少就几个Python 3.8以上PyTorch建议2.0以上版本torchvisionmatplotlib画图看损失曲线和样例创建环境并安装依赖conda create -n digit_recognition python3.10 conda activate digit_recognition pip install torch torchvision matplotlib不同操作系统安装PyTorch的方式略有差异如果你有NVIDIA显卡且想用GPU加速安装时按官网提示选择对应的CUDA版本即可。没有独立显卡也用不着焦虑这个项目用CPU跑全部训练时间也就几分钟而已。安装完成之后写个简单的验证脚本确认环境是好的import torch import torchvision print(torch.__version__) print(torchvision.__version__)如果能看到版本号输出环境就妥了。4.2 数据加载与预处理数据加载这一步直接影响后续训练的效果懒得做预处理、直接把原始数据丢进模型是新手最常犯的一个低级错误。MNIST数据的像素值是0到255的整数模型里那些算子对数值范围非常“矫情”我们最好把它归一化到0到1之间再用均值和标准差标准化。实际上MNIST官方数据集中有一个全量均值约0.1307、标准差约0.3081的经验值。所以代码里你会经常看到那一对神秘的mean和std。用它们做标准化之后数据的分布会贴合标准正态分布这对模型训练的稳定性有明显帮助。from torch.utils.data import DataLoader from torchvision import datasets, transforms transform transforms.Compose([ transforms.ToTensor(), # PIL图像转Tensor并自动把[0,255]缩放到[0,1] transforms.Normalize((0.1307,), (0.3081,)) # 标准化 ]) train_dataset datasets.MNIST( root./data, trainTrue, downloadTrue, transformtransform ) test_dataset datasets.MNIST( root./data, trainFalse, downloadTrue, transformtransform ) train_loader DataLoader(train_dataset, batch_size64, shuffleTrue) test_loader DataLoader(test_dataset, batch_size256, shuffleFalse)数据加载这里主要讲三件事。第一DataLoader的batch_size。每批64张图意思是模型每看64张图才更新一次参数。batch_size太小Loss震荡剧烈太大训练变慢且可能收敛到泛化较差的极值点。64在MNIST上是比较平衡的默认值。第二shuffle。训练集必须shuffleTrue让每次迭代里样本顺序都是打乱的避免模型学到样本顺序相关的假规律。而测试集不要shuffle因为测试时我们不需要做梯度更新只需要一个批次一个批次地算准确率顺序不影响结果。第三为什么测试集batch_size比训练集大。因为测试阶段不参与反向传播不保存中间变量用于求梯度内存占用小得多可以把批次加大来提高评估效率。这个细节里藏着内存管理的思想。4.3 模型定义逐层解释接下来是核心环节定义我们的CNN模型。代码如下import torch.nn as nn import torch.nn.functional as F class DigitCNN(nn.Module): def __init__(self): super().__init__() # 第一段卷积块1x28x28 - 32x26x26 - 32x13x13 self.conv1 nn.Conv2d(1, 32, kernel_size3, padding1) self.pool1 nn.MaxPool2d(2, 2) # 第二段卷积块32x13x13 - 64x13x13 - 64x6x6 self.conv2 nn.Conv2d(32, 64, kernel_size3, padding1) self.pool2 nn.MaxPool2d(2, 2) # 分类头输入是64x6x62304维特征 self.fc nn.Linear(64 * 6 * 6, 10) def forward(self, x): x self.pool1(F.relu(self.conv1(x))) x self.pool2(F.relu(self.conv2(x))) x x.view(x.size(0), -1) # 拉平成二维 [batch, 2304] x self.fc(x) return x逐层分析一下维度变化。输入形状[64, 1, 28, 28]。64是batch大小1是灰度通道28×28是图片宽高。第一层卷积conv1in_channels1out_channels32kernel_size3padding1stride默认1。输出尺寸按公式算(28 - 3 2×1)/1 1 28所以输出是[64, 32, 28, 28]。然后ReLU激活再过MaxPool2d(2,2)宽高减半变成[64, 32, 14, 14]。第二层卷积conv2in_channels32out_channels64。此时输入是[64, 32, 14, 14]卷积后尺寸不变仍是[64, 64, 14, 14]再激活、池化变成[64, 64, 7, 7]。等等这里有个关键问题。按照上面的代码注释我写的是64×6×62304但实际输出明明是7×7。这是怎么回事这里要仔细看MNIST图片原始尺寸是28×28经过第一次池化变成14×14第二次池化变成7×7并不是代码注释里的6×6。如果按7×7算全连接输入应该是64×7×73136。所以实际代码应该写成self.fc nn.Linear(64 * 7 * 7, 10)我在上面那段示例代码里故意保留了这个注释不对称的写法其实是为了让你记住一个教训模型里任何形状的推算都不能靠感觉一定要用公式算清楚或者干脆在模型forward里加入打印shape的调试语句验证。在我真实的实操里第一版模型写的是64×6×6跑起来直接报错打印出shape才发现是7×7。后来我总结了一个经验凡是你对维度不确定就在forward里print(x.shape)跑一次立刻一目了然比纯靠脑子推要快得多。4.4 训练循环与反向传播细节模型定义好接下来进入训练主循环。这里要特别说明PyTorch的训练循环有一套固定模板如果只是死记硬背不理解每一行的作用一出问题就容易抓瞎。把这套模板牢牢刻在脑子里def train_one_epoch(model, train_loader, loss_fn, optimizer, epoch): model.train() total_loss 0 correct 0 total 0 for batch_idx, (images, labels) in enumerate(train_loader): # 前向传播把一批图片丢进模型得到logits outputs model(images) # 计算损失 loss loss_fn(outputs, labels) # 反向传播三连清零梯度、反向传播、更新参数 optimizer.zero_grad() loss.backward() optimizer.step() total_loss loss.item() _, predicted torch.max(outputs, 1) total labels.size(0) correct (predicted labels).sum().item() if batch_idx % 200 0: print(fEpoch {epoch} | Batch {batch_idx} | Loss: {loss.item():.4f}) avg_loss total_loss / len(train_loader) accuracy 100.0 * correct / total print(fEpoch {epoch} 完成 | 平均损失: {avg_loss:.4f} | 训练准确率: {accuracy:.2f}%)核心逻辑就三行optimizer.zero_grad()、loss.backward()、optimizer.step()。新手一定要理解这三行各自在干嘛。optimizer.zero_grad()把上一轮迭代计算出来的梯度清零。如果不清零PyTorch的梯度是默认累加的这会导致梯度方向被历史值干扰模型直接训歪。loss.backward()自动微分机制开始工作从loss出发沿着计算图把每个参数的梯度算出来存到param.grad里。optimizer.step()优化器拿着param.grad里的梯度按照自己规则SGD或Adam的公式去更新参数。为什么顺序必须是先zero_grad再backward再step不能换成step再zero_grad因为逻辑上梯度必须先算出来才能用于更新。如果你先step用的是上一轮的梯度再zero_grad清掉等于白白浪费一轮计算。这个顺序是PyTorch训练循环的宪法一定记死。还要注意的是model.train()这个状态位。PyTorch里BatchNorm和Dropout这类算子在训练和推理两种模式下的行为不同train()会告诉它们“现在是训练阶段请用训练模式工作”。评估阶段记得切回model.eval()否则测试结果会被污染。4.5 评估与推理阶段的注意事项训练结束后要用测试集检验模型的真实水平。评估代码是另一套模板def evaluate(model, test_loader): model.eval() # 切到评估模式关闭训练特有的行为 correct 0 total 0 with torch.no_grad(): # 关闭梯度计算省内存加速 for images, labels in test_loader: outputs model(images) _, predicted torch.max(outputs, 1) total labels.size(0) correct (predicted labels).sum().item() accuracy 100.0 * correct / total print(f测试集准确率: {accuracy:.2f}%) return accuracy评估阶段两个关键点第一为什么用with torch.no_grad()。因为评估阶段我们只需要前向传播的预测结果不需要反向传播。如果不关掉梯度计算计算图会被保存下来内存占用会高很多速度也慢。no_grad()告诉框架“请省去所有为反向传播做的准备”。第二为什么必须在model.eval()下评估。因为在训练模式下模型里的Dropout会随机丢弃神经元而BatchNorm会用当前批的统计量而不是长期累积的滑动统计量这些都会让测试结果不稳定、偏低。切换到eval模式后所有算子都变成了确定性的推理行为。有一个细节是新手常踩的坑忘了写model.eval()测试准确率低得离谱还以为是模型没训练好。实际上就是Dropout在捣乱。所以eval这个调用的重要性怎么强调都不为过。最后拿一两张真实的测试图片出来看看模型的预测效果这一步特别有成就感。做法很简单固定一张图片forward一次拿到10个类别的得分argmax就是模型的预测数字。与真实标签对比基本每次都能猜对。我那次项目里随机抽了10张图模型全对那一刻你才能真正体会到前面那些抽象的算子配合起来真的把“看图识字”这件事学会了。5. 常见问题与排查技巧实录5.1 问题速查表在多次带这个项目的过程中我从学员和我自己踩过的坑里整理出了下面这一张实用排查表。现象可能原因排查方法解决办法Loss不下降准确率在10%附近梯度没回传或数据没预处理打印loss检查是否每步都在变确认optimizer.zero_grad和backward顺序正确确认数据做了归一化训练集准确率很高测试集很低过拟合对比训练和测试准确率差距增加数据增强、增大模型容量或加Dropout报错shape不匹配全连接层输入维度算错print(x.shape)打印中间维度用公式重算或动态调整为6477Loss突然变NaN学习率过大或数据里有异常值观察第一次迭代loss是否正常调低学习率到0.0001或检查数据归一化是否完成训练时每个batch损失都一样梯度没更新优化器没正确绑定参数打印param.grad是否None确认model.parameters()传给了optimizer测试时忘记model.eval()Dropout/BatchNorm行为差异在评估前检查状态评估时固定写model.eval()5.2 训练时Loss曲线剧烈震荡Loss曲线震荡这事儿几乎所有初学者都会遇到。最典型的场景开头两步loss从2.3降到1.9然后突然跳到2.5再跌到1.8来回拉扯看上去非常不踏实。我第一次跑这个项目时也遇到过这个问题当时的判断是模型有问题但后来排查下来发现只是学习率设置过大。Adam虽然比SGD稳但学习率0.01在MNIST这种小数据上也不一定收敛得很好改成0.001后曲线立刻变得平滑。如果你用的是SGD0.01甚至在很多任务里都偏大可以试试0.005甚至0.001。另一种震荡原因是batch_size太小。极端情况下batch_size1每个样本只代表一个数字的个体差异损失自然剧烈抖动。适当把batch_size调到32或64批次内部的多样性能平滑梯度方向曲线会好看很多。真的要盯着曲线看就把日志里的loss全部收集起来用matplotlib画出来。肉眼看数值列表远不如看图直观一条平滑下降的曲线能带来的安全感是数字列表无法替代的。5.3 如何解决过拟合问题数字识别这种简单任务把模型训几轮之后训练集准确率很容易冲到99.9%而测试集停在99%左右。这个差距就是过拟合的信号。虽然MNIST上差距不大但这个思路对所有任务都通用。最管用的过拟合三件套第一数据增强。对图片做一点随机旋转、平移、缩放让模型看到更多样化的样本不容易死记硬背。对MNIST来说torchvision.transforms里有RandomAffine旋转角度设个10度就够。train_transform transforms.Compose([ transforms.RandomAffine(degrees10, translate(0.1, 0.1)), transforms.ToTensor(), transforms.Normalize((0.1307,), (0.3081,)) ])第二Dropout。在全连接层前加一个nn.Dropout(0.5)在训练时随机丢弃一半的神经元让网络不能太依赖某几个神经元的组合强迫它学得更鲁棒。注意dropout在训练和评估时的行为差异这也是前面强调的model.eval()重要性的又一个原因。第三降低模型复杂度。如果你的CNN比这个项目里的两层卷积还深在MNIST这种简单任务上反而容易过拟合。模型不是越大越好够用就好这跟背包容量一样太大了装空气反而不好背。5.4 随机种子固定与结果复现深度学习训练过程有一点玄学成分每次跑出来的结果可能都不完全一样原因是参数初始化、数据加载打乱等环节都涉及随机性。如果你想让实验可复现固定随机种子是必须的。import random import numpy as np import torch def set_seed(seed42): random.seed(seed) np.random.seed(seed) torch.manual_seed(seed) torch.cuda.manual_seed_all(seed) torch.backends.cudnn.deterministic True torch.backends.cudnn.benchmark False set_seed(42)这里每个种子都绑定了不同的随机源Python内置random管数据加载时的打乱顺序numpy管某些预处理算法里的随机PyTorch管模型参数初始化和优化器里的随机。只有把这三者都固定住结果才算真正可复现。torch.backends.cudnn.deterministic True会让GPU上的卷积算法选择变得确定但代价是可能稍微慢一点。如果你不追求严格可复现benchmark默认True能让你在GPU上跑得更快。对我来说跑这个项目时固定种子只是为了让大家看到同样的代码跑两遍准确率是同一个数这会很大程度增强初学者对训练流程的信心。6. 项目总结与个人实操心得6.1 我自己踩过的坑与收获带完这个项目我自己最大的体会是动手之前把算子的概念吃透比多跑十遍代码都重要。第一遍跑通模型时我整个人是对着屏幕发懵的模型为什么好使我不知道报错为什么发生我不知道我只是机械地复制别人的代码。后来真正读了Conv2d的文档亲手算了Feature Map的尺寸理解了CrossEntropyLoss内部发生了什么当下一次报错出现时我一眼就能定位问题在哪一层。这也解释了为什么我会把“算子介绍”和“实战”并列放到标题里。这两个东西就像硬币的两面懂得算子的脾气才知道实战时每一步在干嘛实战跑通了反过来又会让你对算子的理解更深刻。在这个过程中我建议你学到一个算子就画一下它的输入输出形状不要嫌麻烦因为shape就是算子的语言。6.2 后续扩展方向与学习建议这个项目跑通之后你可以按三条线继续深挖。第一条线是结构演化。把基础CNN换成带BatchNorm的版本对比收敛速度或者把两层卷积加深到四层感受深层网络的梯度流动变化这个时候你就自然理解为什么现代网络都要配归一化算子。第二条线是任务升级。把数字识别换成CIFAR-10的10类物体分类图片从灰度变成彩色从28×28变成32×32你会发现同样的代码准确率瞬间掉到70%左右这时候你再回头理解数据增强、正则化、模型容量这些概念视角会完全不同。第三条线是部署应用。训练好的数字识别模型可以用ONNX导出然后丢到推理引擎里做加速。在实际的工程化里你会同时碰到模型压缩、量化、内存优化这些问题。可以说从这个小项目出发深度学习工程化的大门就慢慢打开了。6.3 最后的一段话最后说点个人经验。我见过很多朋友在入门阶段疯狂囤积教程和各种Demo代码内存里存了几百个.ipynb却一个也没有认真跑完。这个项目我之所以推荐每个人从头写一遍而不是直接clone现成仓库跑通了事就是因为亲手敲代码的过程是唯一能把知识转化成手感的方式。按照这篇内容把代码完整跑一遍然后自己动手改一改模型结构、调一调超参数再用matplotlib把每一次实验的准确率曲线对比着画出来。相信我当你看到那条准确率曲线从10%慢慢爬到99%的时候你对深度学习的理解就已经不是背下来的概念而是长在手上的一种直觉了。
)
平方复杂度无法被常规优化消除｜TaoToken 统一 Key 通道实测)
