简介《Math for Deep Learning》2022 年版 PDF 是 Ronald T. Kneusel 面向深度学习实践者与自学读者编写的数学基础读物着重梳理线性代数、概率统计、微积分和优化算法等知识在神经网络中的含义与用法帮助读者从“会调包”走向“懂原理”。压缩包内共 1 个 PDF 文件大小约 7.71MB页面完整适合在电脑或平板上直接阅读、检索和做批注。已有 84 人学习下载对希望补齐数学短板、理解卷积神经网络、循环神经网络和长短时记忆网络等模型原理的读者具有一定参考价值。书中按由基础到进阶的顺序串联概念并结合 Python 科学计算生态说明理论到代码的转化思路把矩阵运算、梯度下降和概率建模等环节联系起来可帮助读者建立较完整的深度学习数学框架为后续阅读论文、调试模型和动手实验打下基础。1. 深度学习数学到底在算什么从一次“玄学调参”说起很多人第一次训练神经网络都经历过同一个瞬间改了个学习率损失曲线从断崖式下跌变成缓慢爬坡换了套初始化模型忽然就不收敛了。看上去像玄学其实每一步背后都有明确的数学对象在动。通俗地说深度学习干的事可以概括成一句话——把数据摆成矩阵用概率描述不确定性用微积分算出“往哪边挪一点会更好”然后反复挪。矩阵、概率、导数、梯度这四个词就是整套流程的骨架。搞不清它们各管什么调参只能靠猜搞清了至少知道自己在拧哪个旋钮、这根线连到哪里。这份 2022 年的深度学习数学资料就是按这条线索铺开的先给工具再讲概率统计、线性代数与矩阵微积分最后落到神经网络的数据流和反向传播。下面按“是什么、为什么、怎么区分”三层把它拆开讲。2. 为什么神经网络离不开数学四块地基各管什么“深度学习”这四个字里“深度”说的是层数“学习”说的其实是优化。而优化这件事从头到尾都在跟数字打交道。一份模型文件动辄几百兆里面存的全是参数一次前向传播要做上亿次乘加一次反向传播要沿着计算图把导数一层层乘回去。这些动作之所以能跑起来是因为背后有四块地基在各自负责一段流程。缺哪一块模型要么跑不动要么跑出来的结果你没法解释。这四块地基分别是线性代数、概率与统计、微积分、数值计算工具。它们的影响范围也不一样线性代数决定数据怎么摆放概率统计决定你怎么判断结果可不可信微积分决定参数往哪走工具链决定这套东西能不能在电脑上真正跑起来。下面逐块说。2.1 线性代数为什么数据一进门就变成了矩阵一张 28×28 的灰度图人眼看是数字“3”计算机眼里是 784 个 0 到 255 之间的整数。把这 784 个数按顺序排成一列它就成了一个向量把一个批次 32 张图摞起来就成了 32 行 784 列的矩阵。这一步不是形式主义而是为了后面能做批量运算——矩阵乘法天生适合描述“每个样本都要和同一组权重做一次加权求和”。全连接层做的事本质上就是一次矩阵乘法加一次偏置。假设输入是 n 个样本、每个样本 k 个特征权重矩阵是 k 行 m 列那么输入矩阵乘权重矩阵得到的就是 n 行 m 列的输出。这里的规则很死内侧的两个 k 必须相等否则连乘都乘不了。初学者看到的那句“维度不匹配”报错百分之八十来自这里。卷积层看起来特殊其实也能翻译成矩阵乘法。把每个感受野里的像素摊平成一列堆成一个更大的矩阵卷积就变成了标准的矩阵乘。这套做法在工程上叫 im2col代价是多吃内存好处是能直接调用高度优化的矩阵运算库。理解了这一层你就明白为什么 GPU 那么在意矩阵乘的吞吐——整个网络的绝大部分计算量都堆在这儿。再往后走权重更新、特征降维、相似度计算用的还是同一批工具。协方差矩阵描述特征之间怎么一起变特征值分解找出数据变化最猛的方向奇异值分解负责在信息损失最小的前提下把维度压下来。它们看起来名目不同内核都是矩阵。2.2 概率与统计模型凭什么说“我 90% 确定”分类模型的最后一层通常接一个 softmax输出一串加起来等于 1 的数。很多人把它直接当成“置信度”看到 0.9 就觉得模型很有把握。严格说它给出的是一个概率分布是模型对“这个样本属于各类别的可能性”的估计而不是事实本身。这两者的差距就是概率论要补的课。为什么需要概率因为数据本身带噪声采样本身有偏差模型参数本身是随机的。同一张图光照变一点、角度偏一点像素值就变了同一个问题训练集里正例负例的比例不同模型学到的先验就不同。这些不确定性没法用一条确定的公式抹掉只能用一个分布去描述它。统计学在这里承担另一件事判断你看到的效果是不是真的。两个模型在测试集上差了两个百分点是模型真的更好还是这次切分数据运气好做一次假设检验看这个差距落在随机波动范围内还是之外结论会诚实很多。A/B 实验、交叉验证、置信区间背后都是同一套逻辑。这份资料把概率和统计拆成两章来讲先讲规则再讲推断顺序是有讲究的。不先把条件概率、联合概率、贝叶斯公式理清楚后面看模型评估指标会一直糊着。2.3 微积分梯度下降到底在下降什么训练模型时最常听到的词是“梯度下降”。把它拆开梯度是一个向量由损失函数对每个参数的偏导数组成方向指向损失上升最快的地方下降就是朝反方向走一小步步长由学习率控制。所以那句“学习率太大容易震荡、太小收敛慢”说的就是这一步迈得合不合适。这里的关键工具是链式法则。神经网络是一层套一层的复合函数输出对第一层参数的导数需要把后面每一层的导数乘起来。反向传播这个名字听着玄做的事就是把这个乘法从后往前做一遍中间结果缓存起来复用避免重复计算。它不是什么新数学就是把链式法则用工程手段实现了一遍。偏导数在这里也值得单独说一句。一个函数有几百上千万个自变量逐个求导不现实但偏导数的定义允许你“固定其他变量只看一个”。梯度就是把所有这些偏导排成一个向量。至于二阶导用在牛顿法、海森矩阵相关的优化里代价高、收益看场景实际项目里用得比一阶少得多。2.4 Python 在这里的角色把公式翻译成能跑的东西数学公式写在纸上是一回事让它在机器上以毫秒级跑完又是另一回事。这份资料选择 Python 作为配套语言原因很实际语法接近伪代码科学计算生态成熟写出来的东西和公式的对应关系清楚。一段最典型的前向传播长这样import numpy as np # 一个 batch32 个样本每个样本 784 维28x28 的图拉平 X np.random.randn(32, 784) # 第一层权重784 个输入特征映射到 128 个隐藏单元 W1 np.random.randn(784, 128) * 0.01 # 乘 0.01 缩小初始值避免激活值爆炸 b1 np.zeros(128) # 偏置从 0 开始是安全默认值 H X W1 b1 # (32,784) (784,128) - (32,128) H np.maximum(H, 0) # ReLU负数截断成 0引入非线性 print(X.shape, W1.shape, H.shape) # (32, 784) (784, 128) (32, 128)这段代码里是矩阵乘法运算符规则是“内侧维度必须相等”X 的第二维 784 和 W1 的第一维 784 对上结果的形状取外侧两个数32 和 128。np.maximum(H, 0)逐元素比较等价于公式里的 max(0, x)。W1 * 0.01是初始化缩放这个 0.01 不是随便写的取值过大会让深层网络的激活值逐层放大最后溢出成 inf。看懂这段再看那些动辄几百行的模型代码你会发现骨架没变定义形状、乘权重、加偏置、过激活函数循环往复。差别只在于层数和每层的具体运算。3. 概率与统计怎么用在模型里从贝叶斯更新到假设检验概率论最反直觉的地方在于人的大脑天生不擅长它。这不是自嘲而是有具体例子的一个班里只要有 23 个人两人生日相同的概率就超过一半。多数人第一次听到这个结论会觉得离谱因为它和“23 个人里有一个和我同一天生日”的直觉混在了一起。前者问的是任意两人后者问的是特定一人问题都不一样。这份资料把概率放在全书靠前的位置正是因为它是最容易“以为自己懂了”的一块。下面按规则、分布、统计量、推断四层往上走。3.1 概率的三条规则加、乘、条件所有概率计算都能拆成三条规则。第一条是加法互斥事件的概率相加掷骰子出 1 或 2 的概率是 1/6 加 1/6。第二条是乘法独立事件同时发生的概率相乘连掷两次都是 6 点的概率是 1/36。第三条是条件概率在已知 B 发生的条件下 A 发生的概率记作 P(A|B)等于 P(A 和 B 同时发生) 除以 P(B)。条件概率之所以重要是因为模型几乎所有的输出都是条件概率。给定输入 x模型输出类别 y 的概率写出来就是 P(y|x)。语言模型预测下一个词同样是条件概率。理解了这一点你就不会再问“模型输出的 0.9 到底是什么意思”——它是在当前输入条件下模型认为该类别的可能性占比。贝叶斯公式是条件概率的直接推论但它带来的思维转变很大先有一个先验判断看到新证据后用似然去修正得到后验。医学检测是经典例子——一种发病率千分之一的病检测准确率 99%一个人测出阳性实际患病的概率远没有 99% 那么高因为健康人基数太大假阳性会把阳性结果稀释掉。放到模型里这就是为什么训练集类别极度不平衡时准确率这个指标会骗人。3.2 分布与两条极限定理为什么平均值总像正态把大量样本的取值画成直方图形状通常有规律。离散场景下抛硬币的次数服从二项分布连续场景下测量误差往往贴近正态分布。这些形状不是巧合中心极限定理给出了解释大量独立同分布的随机变量它们的和或均值在样本量足够大时分布会趋近正态不管原始分布长什么样。大数定律说的是另一件事样本量越大样本均值越接近真实期望。这两条定理经常被混着说其实一条讲形状一条讲收敛。实际意义也很直接交叉验证要取多折的平均单折结果波动大评估指标要看足够多的样本几百个测试样本算出来的准确率误差范围可能大得没法比较。3.3 均值之外的数字方差、分位数与相关性只看均值会被骗。两个班的平均分都是 70一个全班都在 65 到 75 之间另一个一半人 90 分一半人 50 分教学效果完全不同。方差和标准差就是用来描述这种离散程度的。标准差的好处是单位和原始数据一致解释起来直观。分位数和箱线图在数据探索阶段非常有用。中位数是第 50 百分位第 25 和第 75 百分位构成箱体两头伸出去的须线标出异常值范围。一份数据先画箱线图能很快看出偏态、长尾和离群点比只看均值加标准差信息量大得多。相关性衡量两个变量一起变化的趋势。皮尔逊相关系数看的是线性关系取值在 -1 到 1 之间对异常值敏感斯皮尔曼相关系数先把数据转成排名再算捕捉的是单调关系对非线性但单调的关系更稳。这两种在特征筛选时经常要一起看只看一个容易漏掉东西。3.4 假设检验两组实验结果真的不一样吗模型对比是假设检验最常见的用武之地。两个模型在同一个测试集上跑出 82% 和 84%要不要换如果测试集只有 200 个样本两个百分点的差距也就是 4 个样本随机性完全可能造成这个差异。t 检验给出一个 p 值意思是“如果两个模型真的没差别出现这么大差距或者更大差距的概率”。p 值小说明这个差距不太可能是偶然但也没法证明模型真的更好。t 检验的前提是数据近似正态、方差齐性。样本量小、分布偏斜、或者结果是排名而不是具体数值时非参数的 Mann-Whitney U 检验更合适它比较的是两组数据的秩次分布。选哪个检验取决于数据形态不取决于哪个名字听起来高级。提示p 值小于 0.05 只说明“在零假设下这个结果不常见”不等于效应量大更不等于有实际价值。报告结果时把样本量、效应量一起写出来结论才站得住。4. 线性代数与矩阵微积分神经网络真正的搬运工如果只能保留一块数学深度学习大概会选线性代数。参数是矩阵激活值是矩阵梯度还是矩阵优化器维护的状态量也是矩阵。整个训练过程可以看成一系列矩阵运算的串联理解矩阵的形状怎么变、运算的性质是什么比背公式有用得多。这一章的内容密度最高也最容易让人卡住。卡住的原因通常不是概念难而是概念之间的层级关系没理清。下面从最基本的对象开始一层层往上搭。4.1 标量、向量、矩阵、张量其实是同一件事的四个层级标量是一个数向量是一列数矩阵是一张二维表张量是更高维的数组。它们在数学上确实有区别但在代码里很多时候只是同一个数组对象的维度不同。NumPy 里np.array(3)是 0 维np.array([1,2,3])是 1 维一张灰度图是 2 维一批彩色图是 4 维批大小、高、宽、通道。维度这个概念值得单独强调一句。同样是“四维张量”不同框架的通道顺序可能不一样有的是 NCHW有的是 NHWC。数据从一种格式转成另一种看着只是挪了挪位置实际会影响后续所有运算的形状假设。这类问题在跨框架迁移时特别常见。运算分两类。一类是逐元素运算两个形状相同的矩阵对应位置相加、相乘NumPy 里的和*默认就是这种行为。另一类是矩阵乘法行乘列再求和规则严格形状必须对齐。这两类运算混淆是初学者最容易踩的坑之一——用*当矩阵乘用形状恰好一样时不会报错结果却是错的。克罗内克积是另一个容易忽略的运算。它把两个矩阵的每个元素互相乘一遍得到一个大矩阵在张量分解、量子计算的形式化里出现得比较多。日常建模用得少但看到的时候不用慌知道它是“元素级展开”就行。4.2 方阵、行列式、逆与特征值为什么它们总一起出现方阵是行数和列数相等的矩阵。很多重要性质只在方阵上定义所以它们总是一起出现。行列式是一个标量可以理解为这个矩阵对空间体积的缩放倍数。行列式为 0说明这个变换把空间压扁了信息丢了矩阵不可逆。逆矩阵的作用是“撤销”一个变换。矩阵 A 乘以它的逆得到单位矩阵相当于什么都没做。可逆的前提是行列式不为零。实际计算中很少真的去求逆数值稳定性差、计算量大通常用解线性方程组或者分解的方式绕过去。特征值和特征向量描述的是矩阵作用在特定方向上的行为。绝大多数向量被矩阵乘过之后方向和长度都会变但存在一些特殊方向只被拉长或压短方向不变。这些方向就是特征向量拉伸的倍数就是特征值。主成分分析找的所谓“主成分方向”本质上就是协方差矩阵的特征向量特征值大的方向就是数据变化最剧烈的方向。对称矩阵在这套理论里有特殊地位它的特征值一定是实数特征向量两两正交。正定性描述的是另一个性质粗略理解就是“这个矩阵在哪个方向上都把向量往正的方向拉”。协方差矩阵天然对称半正定这个性质保证了很多算法能稳定收敛。4.3 距离、PCA 与 SVD降维和相似度背后的同一套工具衡量两个向量有多像方式不止一种。欧氏距离最直观就是直线距离曼哈顿距离是各维度差值的绝对值之和切比雪夫距离取各维度差值的最大值。它们都属于 L 范数家族区别在于把各维度的差异怎么聚合起来。马氏距离是另一种思路它考虑了各维度之间的相关性先把数据按协方差矩阵“白化”再算距离。在高维数据里欧氏距离会被量纲和相关性带偏马氏距离能缓解这个问题代价是要估计协方差矩阵样本少的时候估不准。KL 散度衡量的是两个概率分布之间的差异注意它不对称——从 P 到 Q 和从 Q 到 P 算出来不一样所以它严格说不是“距离”。它在变分推断、知识蒸馏里出现得很多看到它出现在损失函数里不要意外。主成分分析做的事是把高维数据投影到方差最大的几个方向上。步骤不复杂中心化、算协方差矩阵、求特征值和特征向量、按特征值从大到小排序、取前 k 个方向投影。损失的信息量由被丢掉的那些特征值贡献所以“保留多少维”可以有量化依据不用凭感觉。奇异值分解是更通用的工具任何矩阵都能分解不要求方阵。它把矩阵拆成三个部分一个正交矩阵、一个对角矩阵、另一个正交矩阵。对角线上那些数叫奇异值大小反映各方向的重要性。压缩、去噪、推荐系统里的隐因子分解都能落到这个分解上。伪逆是 SVD 的直接应用矩阵不可逆时用它来求一个“最接近的解”。4.4 矩阵微积分雅可比、海森与反向传播的关系普通的导数是一个数对一个数矩阵微积分处理的是向量对向量、标量对矩阵这类情况。规则不复杂麻烦的是记号不统一不同教材的写法可能差一个转置。看论文时如果发现公式和代码对不上先检查是不是转置约定不同十有八九是这个原因。雅可比矩阵装的是“一个向量函数对另一个向量”的所有一阶偏导形状是输出维度乘输入维度。海森矩阵装的则是标量函数的二阶偏导形状是参数个数乘参数个数对称的。参数量上百万时海森矩阵根本存不下所以实际优化基本只用一阶信息二阶方法更多出现在理论分析和少量特殊场景里。反向传播之所以高效靠的是把雅可比矩阵的连乘拆成从后往前的逐步相乘每一步只用当前层的局部信息中间结果缓存复用。没有这个技巧每调整一次参数就要把整个网络重算一遍训练成本会高到没法接受。链式法则本身是微积分的内容把它组织成可复用的计算流程是工程上的贡献两者缺一不可。5. 常见误区与易混概念五组最容易混淆的说法学到一定阶段概念本身不难难的是把长得像的概念分开。下面五组是出现频率最高的混淆点每一组都按“易混在哪、为什么混、怎么区分”来说。5.1 数学好不等于会深度学习易混点在于很多人把“能看懂公式”当成“能做好模型”考完高数觉得自己已经入门了。之所以混是因为深度学习的论文和教材里确实全是公式看上去门槛就在数学。但真正动手时会发现数学只是描述工具另外还有一整套工程直觉在起作用数据该怎么清洗、标签噪声怎么处理、模型容量和数据集规模怎么匹配、训练不收敛时先查哪一项。这些经验没有公式可依靠的是反复试错积累。怎么区分可以这样看数学决定你能不能理解一个方法为什么有效工程决定你能不能让它在你手上的数据上有效。两者是乘法关系任意一个接近零整体都上不去。补数学是长期投资补工程是短期见效节奏不一样别指望一本书同时解决两件事。5.2 概率和统计不是一回事易混点在于两个词经常连着出现很多人以为它们是同一门学科的不同叫法。之所以混是因为它们研究的是同一批对象——随机现象只是方向相反。概率是从模型出发推数据已知一个分布问某个事件发生的可能性有多大。统计是从数据出发推模型手上有样本问背后的分布长什么样、参数该取多少。一个是从因到果一个是从果推因。怎么区分看方向就够了。算“掷三次骰子至少出现一次 6 的概率”这是概率拿到一百次掷骰子的记录反推这个骰子是不是被动过手脚这是统计。放到模型里softmax 输出属于概率用测试集估计模型泛化误差属于统计两者在同一套流程里各管一段。5.3 导数、偏导、梯度、雅可比不是四个同义词易混点在于这四个词在口语里经常被混用“求个导”可以指其中任何一个。之所以混是因为它们确实同源都是描述变化率只是输入输出的维度不同。导数是标量对标的偏导是多元函数固定其他变量后对某一个变量的导梯度是把所有偏导排成一个向量雅可比是把向量函数的每个输出对每个输入的偏导排成一个矩阵。层级关系很清楚梯度是雅可比的特例偏导是梯度的分量。怎么区分看输入和输出各是什么。输入一个数、输出一个数导数输入多个数、输出一个数梯度分量是偏导输入多个数、输出多个数雅可比。海森矩阵则是二阶版本输入多个数、输出一个数但求的是二阶偏导。搞清楚这张表看公式时就不会再把符号认错。5.4 相关不等于因果Pearson 也不等于 Spearman易混点有两个层次。第一层是把相关性当成因果性第二层是把两种相关系数当成可以互换的指标。之所以混第一层是因为相关性确实经常出现在因果关系的场景里容易顺势下结论第二层是因为两者算出来的数值有时候很接近看起来差不多。怎么区分因果需要额外证据比如干预实验或者明确的时间顺序单靠一个相关系数支撑不起来。两种相关系数则看关系形态数据近似线性、没有明显异常值时皮尔逊合适关系单调但非线性、或者存在离群点时斯皮尔曼更稳。做特征筛选时两个都算一遍差异很大就说明数据里有值得看的东西。5.5 损失函数和优化算法别混着说易混点在于“模型不收敛”这句话可能是在说损失函数设计有问题也可能是在说优化器参数没调好但很多人不区分。之所以混是因为两者在代码里挨着写改动一个经常要跟着改另一个边界就模糊了。损失函数定义的是“什么叫做得好”优化算法定义的是“怎么朝着更好的方向走”。前者决定目标后者决定路径。怎么区分看症状。损失降到某个值就不动了训练集和验证集都高多半是模型容量或者损失函数跟任务不匹配损失剧烈震荡、来回跳多半是学习率或者批量大小的问题训练损失一直降、验证损失开始涨那是过拟合跟优化器关系不大。把症状和原因对上号排查效率会高很多。6. 什么时候该翻数学什么时候别硬啃一条实用边界数学这块最容易走两个极端。一个极端是把数学当门槛觉得没把实分析、测度论啃完就不配碰深度学习结果书买了三本模型一个没训。另一个极端是彻底不看调参全靠试试到能跑就收工遇到诡异现象只能干瞪眼。两种做法都会浪费大量时间。比较务实的判断标准是看你现在卡在哪一层。你遇到的情况该不该回去补数学补哪一块模型能跑指标还行想调得更好该但只补局部损失函数、评估指标背后的统计含义训练不收敛损失震荡或爆炸该优先补梯度、学习率、链式法则的直觉维度报错、形状对不上该但很快矩阵乘法的形状规则想做数据探索看不出异常该分布、分位数、相关性只是想把现成模型跑通做个小工具暂时不必先跑通遇到问题再查读完一篇论文想复现该按需补论文里出现的具体运算不必通读全书这张表的意思不是给数学分等级而是说数学的投入应该跟着问题走。手上有一个具体卡点去查对应的那一小节看完马上回去改代码验证这个过程里知识是活的。反过来从第一页开始按顺序通读读到第三章已经忘了第一章在讲什么投入产出比很低。有一个信号值得留意当你开始频繁地说“这个参数调一下试试”却说不清调它会影响什么那就是该回头补一补的时候了。调参本身不是错盲调才是。知道学习率连接着梯度的大小、批量大小连接着梯度的噪声水平试起来才有方向。还有一种情况是别硬啃如果你当前的任务只是调用现成接口完成一个业务流程那数学的优先级确实可以往后放。把流程跑通、拿到结果、验证价值这些事的紧迫性高于理解反向传播。等业务跑起来、需要优化效果或者排查异常了再回来补动机会强得多也更容易看懂。我自己有过一次挺典型的翻车经历。当时做一个图像分类的小项目训练损失一直降验证损失从第三轮开始往上走我的第一反应是加大正则化调了两天没起色。后来被人提醒去画一下训练集和验证集的分布对比才发现两个集合的采样方式不一样验证集里混进了一批亮度明显偏高的图。问题根本不在正则化在数据。从那以后我每次遇到“训练好、验证差”的情况都强制先做一遍数据分布检查再动任何超参数。这份资料的价值不在于让你把每一页都推一遍公式而在于给你一张地图知道哪个问题对应哪一块知识需要的时候能翻到正确的那一页。如果你也想把这条线索完整走一遍资源里的完整内容可以直接拿去对照着看按自己的卡点挑章节读比从头啃到尾效率高得多。希望帮到你。本文还有配套的精品资源点击获取
简介《Math for Deep Learning》2022 年版 PDF 是 Ronald T. Kneusel 面向深度学习实践者与自学读者编写的数学基础读物着重梳理线性代数、概率统计、微积分和优化算法等知识在神经网络中的含义与用法帮助读者从“会调包”走向“懂原理”。压缩包内共 1 个 PDF 文件大小约 7.71MB页面完整适合在电脑或平板上直接阅读、检索和做批注。已有 84 人学习下载对希望补齐数学短板、理解卷积神经网络、循环神经网络和长短时记忆网络等模型原理的读者具有一定参考价值。书中按由基础到进阶的顺序串联概念并结合 Python 科学计算生态说明理论到代码的转化思路把矩阵运算、梯度下降和概率建模等环节联系起来可帮助读者建立较完整的深度学习数学框架为后续阅读论文、调试模型和动手实验打下基础。1. 深度学习数学到底在算什么从一次“玄学调参”说起很多人第一次训练神经网络都经历过同一个瞬间改了个学习率损失曲线从断崖式下跌变成缓慢爬坡换了套初始化模型忽然就不收敛了。看上去像玄学其实每一步背后都有明确的数学对象在动。通俗地说深度学习干的事可以概括成一句话——把数据摆成矩阵用概率描述不确定性用微积分算出“往哪边挪一点会更好”然后反复挪。矩阵、概率、导数、梯度这四个词就是整套流程的骨架。搞不清它们各管什么调参只能靠猜搞清了至少知道自己在拧哪个旋钮、这根线连到哪里。这份 2022 年的深度学习数学资料就是按这条线索铺开的先给工具再讲概率统计、线性代数与矩阵微积分最后落到神经网络的数据流和反向传播。下面按“是什么、为什么、怎么区分”三层把它拆开讲。2. 为什么神经网络离不开数学四块地基各管什么“深度学习”这四个字里“深度”说的是层数“学习”说的其实是优化。而优化这件事从头到尾都在跟数字打交道。一份模型文件动辄几百兆里面存的全是参数一次前向传播要做上亿次乘加一次反向传播要沿着计算图把导数一层层乘回去。这些动作之所以能跑起来是因为背后有四块地基在各自负责一段流程。缺哪一块模型要么跑不动要么跑出来的结果你没法解释。这四块地基分别是线性代数、概率与统计、微积分、数值计算工具。它们的影响范围也不一样线性代数决定数据怎么摆放概率统计决定你怎么判断结果可不可信微积分决定参数往哪走工具链决定这套东西能不能在电脑上真正跑起来。下面逐块说。2.1 线性代数为什么数据一进门就变成了矩阵一张 28×28 的灰度图人眼看是数字“3”计算机眼里是 784 个 0 到 255 之间的整数。把这 784 个数按顺序排成一列它就成了一个向量把一个批次 32 张图摞起来就成了 32 行 784 列的矩阵。这一步不是形式主义而是为了后面能做批量运算——矩阵乘法天生适合描述“每个样本都要和同一组权重做一次加权求和”。全连接层做的事本质上就是一次矩阵乘法加一次偏置。假设输入是 n 个样本、每个样本 k 个特征权重矩阵是 k 行 m 列那么输入矩阵乘权重矩阵得到的就是 n 行 m 列的输出。这里的规则很死内侧的两个 k 必须相等否则连乘都乘不了。初学者看到的那句“维度不匹配”报错百分之八十来自这里。卷积层看起来特殊其实也能翻译成矩阵乘法。把每个感受野里的像素摊平成一列堆成一个更大的矩阵卷积就变成了标准的矩阵乘。这套做法在工程上叫 im2col代价是多吃内存好处是能直接调用高度优化的矩阵运算库。理解了这一层你就明白为什么 GPU 那么在意矩阵乘的吞吐——整个网络的绝大部分计算量都堆在这儿。再往后走权重更新、特征降维、相似度计算用的还是同一批工具。协方差矩阵描述特征之间怎么一起变特征值分解找出数据变化最猛的方向奇异值分解负责在信息损失最小的前提下把维度压下来。它们看起来名目不同内核都是矩阵。2.2 概率与统计模型凭什么说“我 90% 确定”分类模型的最后一层通常接一个 softmax输出一串加起来等于 1 的数。很多人把它直接当成“置信度”看到 0.9 就觉得模型很有把握。严格说它给出的是一个概率分布是模型对“这个样本属于各类别的可能性”的估计而不是事实本身。这两者的差距就是概率论要补的课。为什么需要概率因为数据本身带噪声采样本身有偏差模型参数本身是随机的。同一张图光照变一点、角度偏一点像素值就变了同一个问题训练集里正例负例的比例不同模型学到的先验就不同。这些不确定性没法用一条确定的公式抹掉只能用一个分布去描述它。统计学在这里承担另一件事判断你看到的效果是不是真的。两个模型在测试集上差了两个百分点是模型真的更好还是这次切分数据运气好做一次假设检验看这个差距落在随机波动范围内还是之外结论会诚实很多。A/B 实验、交叉验证、置信区间背后都是同一套逻辑。这份资料把概率和统计拆成两章来讲先讲规则再讲推断顺序是有讲究的。不先把条件概率、联合概率、贝叶斯公式理清楚后面看模型评估指标会一直糊着。2.3 微积分梯度下降到底在下降什么训练模型时最常听到的词是“梯度下降”。把它拆开梯度是一个向量由损失函数对每个参数的偏导数组成方向指向损失上升最快的地方下降就是朝反方向走一小步步长由学习率控制。所以那句“学习率太大容易震荡、太小收敛慢”说的就是这一步迈得合不合适。这里的关键工具是链式法则。神经网络是一层套一层的复合函数输出对第一层参数的导数需要把后面每一层的导数乘起来。反向传播这个名字听着玄做的事就是把这个乘法从后往前做一遍中间结果缓存起来复用避免重复计算。它不是什么新数学就是把链式法则用工程手段实现了一遍。偏导数在这里也值得单独说一句。一个函数有几百上千万个自变量逐个求导不现实但偏导数的定义允许你“固定其他变量只看一个”。梯度就是把所有这些偏导排成一个向量。至于二阶导用在牛顿法、海森矩阵相关的优化里代价高、收益看场景实际项目里用得比一阶少得多。2.4 Python 在这里的角色把公式翻译成能跑的东西数学公式写在纸上是一回事让它在机器上以毫秒级跑完又是另一回事。这份资料选择 Python 作为配套语言原因很实际语法接近伪代码科学计算生态成熟写出来的东西和公式的对应关系清楚。一段最典型的前向传播长这样import numpy as np # 一个 batch32 个样本每个样本 784 维28x28 的图拉平 X np.random.randn(32, 784) # 第一层权重784 个输入特征映射到 128 个隐藏单元 W1 np.random.randn(784, 128) * 0.01 # 乘 0.01 缩小初始值避免激活值爆炸 b1 np.zeros(128) # 偏置从 0 开始是安全默认值 H X W1 b1 # (32,784) (784,128) - (32,128) H np.maximum(H, 0) # ReLU负数截断成 0引入非线性 print(X.shape, W1.shape, H.shape) # (32, 784) (784, 128) (32, 128)这段代码里是矩阵乘法运算符规则是“内侧维度必须相等”X 的第二维 784 和 W1 的第一维 784 对上结果的形状取外侧两个数32 和 128。np.maximum(H, 0)逐元素比较等价于公式里的 max(0, x)。W1 * 0.01是初始化缩放这个 0.01 不是随便写的取值过大会让深层网络的激活值逐层放大最后溢出成 inf。看懂这段再看那些动辄几百行的模型代码你会发现骨架没变定义形状、乘权重、加偏置、过激活函数循环往复。差别只在于层数和每层的具体运算。3. 概率与统计怎么用在模型里从贝叶斯更新到假设检验概率论最反直觉的地方在于人的大脑天生不擅长它。这不是自嘲而是有具体例子的一个班里只要有 23 个人两人生日相同的概率就超过一半。多数人第一次听到这个结论会觉得离谱因为它和“23 个人里有一个和我同一天生日”的直觉混在了一起。前者问的是任意两人后者问的是特定一人问题都不一样。这份资料把概率放在全书靠前的位置正是因为它是最容易“以为自己懂了”的一块。下面按规则、分布、统计量、推断四层往上走。3.1 概率的三条规则加、乘、条件所有概率计算都能拆成三条规则。第一条是加法互斥事件的概率相加掷骰子出 1 或 2 的概率是 1/6 加 1/6。第二条是乘法独立事件同时发生的概率相乘连掷两次都是 6 点的概率是 1/36。第三条是条件概率在已知 B 发生的条件下 A 发生的概率记作 P(A|B)等于 P(A 和 B 同时发生) 除以 P(B)。条件概率之所以重要是因为模型几乎所有的输出都是条件概率。给定输入 x模型输出类别 y 的概率写出来就是 P(y|x)。语言模型预测下一个词同样是条件概率。理解了这一点你就不会再问“模型输出的 0.9 到底是什么意思”——它是在当前输入条件下模型认为该类别的可能性占比。贝叶斯公式是条件概率的直接推论但它带来的思维转变很大先有一个先验判断看到新证据后用似然去修正得到后验。医学检测是经典例子——一种发病率千分之一的病检测准确率 99%一个人测出阳性实际患病的概率远没有 99% 那么高因为健康人基数太大假阳性会把阳性结果稀释掉。放到模型里这就是为什么训练集类别极度不平衡时准确率这个指标会骗人。3.2 分布与两条极限定理为什么平均值总像正态把大量样本的取值画成直方图形状通常有规律。离散场景下抛硬币的次数服从二项分布连续场景下测量误差往往贴近正态分布。这些形状不是巧合中心极限定理给出了解释大量独立同分布的随机变量它们的和或均值在样本量足够大时分布会趋近正态不管原始分布长什么样。大数定律说的是另一件事样本量越大样本均值越接近真实期望。这两条定理经常被混着说其实一条讲形状一条讲收敛。实际意义也很直接交叉验证要取多折的平均单折结果波动大评估指标要看足够多的样本几百个测试样本算出来的准确率误差范围可能大得没法比较。3.3 均值之外的数字方差、分位数与相关性只看均值会被骗。两个班的平均分都是 70一个全班都在 65 到 75 之间另一个一半人 90 分一半人 50 分教学效果完全不同。方差和标准差就是用来描述这种离散程度的。标准差的好处是单位和原始数据一致解释起来直观。分位数和箱线图在数据探索阶段非常有用。中位数是第 50 百分位第 25 和第 75 百分位构成箱体两头伸出去的须线标出异常值范围。一份数据先画箱线图能很快看出偏态、长尾和离群点比只看均值加标准差信息量大得多。相关性衡量两个变量一起变化的趋势。皮尔逊相关系数看的是线性关系取值在 -1 到 1 之间对异常值敏感斯皮尔曼相关系数先把数据转成排名再算捕捉的是单调关系对非线性但单调的关系更稳。这两种在特征筛选时经常要一起看只看一个容易漏掉东西。3.4 假设检验两组实验结果真的不一样吗模型对比是假设检验最常见的用武之地。两个模型在同一个测试集上跑出 82% 和 84%要不要换如果测试集只有 200 个样本两个百分点的差距也就是 4 个样本随机性完全可能造成这个差异。t 检验给出一个 p 值意思是“如果两个模型真的没差别出现这么大差距或者更大差距的概率”。p 值小说明这个差距不太可能是偶然但也没法证明模型真的更好。t 检验的前提是数据近似正态、方差齐性。样本量小、分布偏斜、或者结果是排名而不是具体数值时非参数的 Mann-Whitney U 检验更合适它比较的是两组数据的秩次分布。选哪个检验取决于数据形态不取决于哪个名字听起来高级。提示p 值小于 0.05 只说明“在零假设下这个结果不常见”不等于效应量大更不等于有实际价值。报告结果时把样本量、效应量一起写出来结论才站得住。4. 线性代数与矩阵微积分神经网络真正的搬运工如果只能保留一块数学深度学习大概会选线性代数。参数是矩阵激活值是矩阵梯度还是矩阵优化器维护的状态量也是矩阵。整个训练过程可以看成一系列矩阵运算的串联理解矩阵的形状怎么变、运算的性质是什么比背公式有用得多。这一章的内容密度最高也最容易让人卡住。卡住的原因通常不是概念难而是概念之间的层级关系没理清。下面从最基本的对象开始一层层往上搭。4.1 标量、向量、矩阵、张量其实是同一件事的四个层级标量是一个数向量是一列数矩阵是一张二维表张量是更高维的数组。它们在数学上确实有区别但在代码里很多时候只是同一个数组对象的维度不同。NumPy 里np.array(3)是 0 维np.array([1,2,3])是 1 维一张灰度图是 2 维一批彩色图是 4 维批大小、高、宽、通道。维度这个概念值得单独强调一句。同样是“四维张量”不同框架的通道顺序可能不一样有的是 NCHW有的是 NHWC。数据从一种格式转成另一种看着只是挪了挪位置实际会影响后续所有运算的形状假设。这类问题在跨框架迁移时特别常见。运算分两类。一类是逐元素运算两个形状相同的矩阵对应位置相加、相乘NumPy 里的和*默认就是这种行为。另一类是矩阵乘法行乘列再求和规则严格形状必须对齐。这两类运算混淆是初学者最容易踩的坑之一——用*当矩阵乘用形状恰好一样时不会报错结果却是错的。克罗内克积是另一个容易忽略的运算。它把两个矩阵的每个元素互相乘一遍得到一个大矩阵在张量分解、量子计算的形式化里出现得比较多。日常建模用得少但看到的时候不用慌知道它是“元素级展开”就行。4.2 方阵、行列式、逆与特征值为什么它们总一起出现方阵是行数和列数相等的矩阵。很多重要性质只在方阵上定义所以它们总是一起出现。行列式是一个标量可以理解为这个矩阵对空间体积的缩放倍数。行列式为 0说明这个变换把空间压扁了信息丢了矩阵不可逆。逆矩阵的作用是“撤销”一个变换。矩阵 A 乘以它的逆得到单位矩阵相当于什么都没做。可逆的前提是行列式不为零。实际计算中很少真的去求逆数值稳定性差、计算量大通常用解线性方程组或者分解的方式绕过去。特征值和特征向量描述的是矩阵作用在特定方向上的行为。绝大多数向量被矩阵乘过之后方向和长度都会变但存在一些特殊方向只被拉长或压短方向不变。这些方向就是特征向量拉伸的倍数就是特征值。主成分分析找的所谓“主成分方向”本质上就是协方差矩阵的特征向量特征值大的方向就是数据变化最剧烈的方向。对称矩阵在这套理论里有特殊地位它的特征值一定是实数特征向量两两正交。正定性描述的是另一个性质粗略理解就是“这个矩阵在哪个方向上都把向量往正的方向拉”。协方差矩阵天然对称半正定这个性质保证了很多算法能稳定收敛。4.3 距离、PCA 与 SVD降维和相似度背后的同一套工具衡量两个向量有多像方式不止一种。欧氏距离最直观就是直线距离曼哈顿距离是各维度差值的绝对值之和切比雪夫距离取各维度差值的最大值。它们都属于 L 范数家族区别在于把各维度的差异怎么聚合起来。马氏距离是另一种思路它考虑了各维度之间的相关性先把数据按协方差矩阵“白化”再算距离。在高维数据里欧氏距离会被量纲和相关性带偏马氏距离能缓解这个问题代价是要估计协方差矩阵样本少的时候估不准。KL 散度衡量的是两个概率分布之间的差异注意它不对称——从 P 到 Q 和从 Q 到 P 算出来不一样所以它严格说不是“距离”。它在变分推断、知识蒸馏里出现得很多看到它出现在损失函数里不要意外。主成分分析做的事是把高维数据投影到方差最大的几个方向上。步骤不复杂中心化、算协方差矩阵、求特征值和特征向量、按特征值从大到小排序、取前 k 个方向投影。损失的信息量由被丢掉的那些特征值贡献所以“保留多少维”可以有量化依据不用凭感觉。奇异值分解是更通用的工具任何矩阵都能分解不要求方阵。它把矩阵拆成三个部分一个正交矩阵、一个对角矩阵、另一个正交矩阵。对角线上那些数叫奇异值大小反映各方向的重要性。压缩、去噪、推荐系统里的隐因子分解都能落到这个分解上。伪逆是 SVD 的直接应用矩阵不可逆时用它来求一个“最接近的解”。4.4 矩阵微积分雅可比、海森与反向传播的关系普通的导数是一个数对一个数矩阵微积分处理的是向量对向量、标量对矩阵这类情况。规则不复杂麻烦的是记号不统一不同教材的写法可能差一个转置。看论文时如果发现公式和代码对不上先检查是不是转置约定不同十有八九是这个原因。雅可比矩阵装的是“一个向量函数对另一个向量”的所有一阶偏导形状是输出维度乘输入维度。海森矩阵装的则是标量函数的二阶偏导形状是参数个数乘参数个数对称的。参数量上百万时海森矩阵根本存不下所以实际优化基本只用一阶信息二阶方法更多出现在理论分析和少量特殊场景里。反向传播之所以高效靠的是把雅可比矩阵的连乘拆成从后往前的逐步相乘每一步只用当前层的局部信息中间结果缓存复用。没有这个技巧每调整一次参数就要把整个网络重算一遍训练成本会高到没法接受。链式法则本身是微积分的内容把它组织成可复用的计算流程是工程上的贡献两者缺一不可。5. 常见误区与易混概念五组最容易混淆的说法学到一定阶段概念本身不难难的是把长得像的概念分开。下面五组是出现频率最高的混淆点每一组都按“易混在哪、为什么混、怎么区分”来说。5.1 数学好不等于会深度学习易混点在于很多人把“能看懂公式”当成“能做好模型”考完高数觉得自己已经入门了。之所以混是因为深度学习的论文和教材里确实全是公式看上去门槛就在数学。但真正动手时会发现数学只是描述工具另外还有一整套工程直觉在起作用数据该怎么清洗、标签噪声怎么处理、模型容量和数据集规模怎么匹配、训练不收敛时先查哪一项。这些经验没有公式可依靠的是反复试错积累。怎么区分可以这样看数学决定你能不能理解一个方法为什么有效工程决定你能不能让它在你手上的数据上有效。两者是乘法关系任意一个接近零整体都上不去。补数学是长期投资补工程是短期见效节奏不一样别指望一本书同时解决两件事。5.2 概率和统计不是一回事易混点在于两个词经常连着出现很多人以为它们是同一门学科的不同叫法。之所以混是因为它们研究的是同一批对象——随机现象只是方向相反。概率是从模型出发推数据已知一个分布问某个事件发生的可能性有多大。统计是从数据出发推模型手上有样本问背后的分布长什么样、参数该取多少。一个是从因到果一个是从果推因。怎么区分看方向就够了。算“掷三次骰子至少出现一次 6 的概率”这是概率拿到一百次掷骰子的记录反推这个骰子是不是被动过手脚这是统计。放到模型里softmax 输出属于概率用测试集估计模型泛化误差属于统计两者在同一套流程里各管一段。5.3 导数、偏导、梯度、雅可比不是四个同义词易混点在于这四个词在口语里经常被混用“求个导”可以指其中任何一个。之所以混是因为它们确实同源都是描述变化率只是输入输出的维度不同。导数是标量对标的偏导是多元函数固定其他变量后对某一个变量的导梯度是把所有偏导排成一个向量雅可比是把向量函数的每个输出对每个输入的偏导排成一个矩阵。层级关系很清楚梯度是雅可比的特例偏导是梯度的分量。怎么区分看输入和输出各是什么。输入一个数、输出一个数导数输入多个数、输出一个数梯度分量是偏导输入多个数、输出多个数雅可比。海森矩阵则是二阶版本输入多个数、输出一个数但求的是二阶偏导。搞清楚这张表看公式时就不会再把符号认错。5.4 相关不等于因果Pearson 也不等于 Spearman易混点有两个层次。第一层是把相关性当成因果性第二层是把两种相关系数当成可以互换的指标。之所以混第一层是因为相关性确实经常出现在因果关系的场景里容易顺势下结论第二层是因为两者算出来的数值有时候很接近看起来差不多。怎么区分因果需要额外证据比如干预实验或者明确的时间顺序单靠一个相关系数支撑不起来。两种相关系数则看关系形态数据近似线性、没有明显异常值时皮尔逊合适关系单调但非线性、或者存在离群点时斯皮尔曼更稳。做特征筛选时两个都算一遍差异很大就说明数据里有值得看的东西。5.5 损失函数和优化算法别混着说易混点在于“模型不收敛”这句话可能是在说损失函数设计有问题也可能是在说优化器参数没调好但很多人不区分。之所以混是因为两者在代码里挨着写改动一个经常要跟着改另一个边界就模糊了。损失函数定义的是“什么叫做得好”优化算法定义的是“怎么朝着更好的方向走”。前者决定目标后者决定路径。怎么区分看症状。损失降到某个值就不动了训练集和验证集都高多半是模型容量或者损失函数跟任务不匹配损失剧烈震荡、来回跳多半是学习率或者批量大小的问题训练损失一直降、验证损失开始涨那是过拟合跟优化器关系不大。把症状和原因对上号排查效率会高很多。6. 什么时候该翻数学什么时候别硬啃一条实用边界数学这块最容易走两个极端。一个极端是把数学当门槛觉得没把实分析、测度论啃完就不配碰深度学习结果书买了三本模型一个没训。另一个极端是彻底不看调参全靠试试到能跑就收工遇到诡异现象只能干瞪眼。两种做法都会浪费大量时间。比较务实的判断标准是看你现在卡在哪一层。你遇到的情况该不该回去补数学补哪一块模型能跑指标还行想调得更好该但只补局部损失函数、评估指标背后的统计含义训练不收敛损失震荡或爆炸该优先补梯度、学习率、链式法则的直觉维度报错、形状对不上该但很快矩阵乘法的形状规则想做数据探索看不出异常该分布、分位数、相关性只是想把现成模型跑通做个小工具暂时不必先跑通遇到问题再查读完一篇论文想复现该按需补论文里出现的具体运算不必通读全书这张表的意思不是给数学分等级而是说数学的投入应该跟着问题走。手上有一个具体卡点去查对应的那一小节看完马上回去改代码验证这个过程里知识是活的。反过来从第一页开始按顺序通读读到第三章已经忘了第一章在讲什么投入产出比很低。有一个信号值得留意当你开始频繁地说“这个参数调一下试试”却说不清调它会影响什么那就是该回头补一补的时候了。调参本身不是错盲调才是。知道学习率连接着梯度的大小、批量大小连接着梯度的噪声水平试起来才有方向。还有一种情况是别硬啃如果你当前的任务只是调用现成接口完成一个业务流程那数学的优先级确实可以往后放。把流程跑通、拿到结果、验证价值这些事的紧迫性高于理解反向传播。等业务跑起来、需要优化效果或者排查异常了再回来补动机会强得多也更容易看懂。我自己有过一次挺典型的翻车经历。当时做一个图像分类的小项目训练损失一直降验证损失从第三轮开始往上走我的第一反应是加大正则化调了两天没起色。后来被人提醒去画一下训练集和验证集的分布对比才发现两个集合的采样方式不一样验证集里混进了一批亮度明显偏高的图。问题根本不在正则化在数据。从那以后我每次遇到“训练好、验证差”的情况都强制先做一遍数据分布检查再动任何超参数。这份资料的价值不在于让你把每一页都推一遍公式而在于给你一张地图知道哪个问题对应哪一块知识需要的时候能翻到正确的那一页。如果你也想把这条线索完整走一遍资源里的完整内容可以直接拿去对照着看按自己的卡点挑章节读比从头啃到尾效率高得多。希望帮到你。本文还有配套的精品资源点击获取
