做深度学习也快十年了分类模型做过不少但绝大部分场景都是拿图像做输入。真正让我觉得这个坑值得写出来的是去年做的一个多特征输入分类项目。项目本身不复杂就是结合贝叶斯优化算法去调CNN的超参数输入却不是单一种类而是多路异构特征——有些是连续数值有些是类别编号还有些是一维的时序片段。一开始还觉得不就是拼特征嘛结果在特征融合、网络结构、超参搜索三个环节上都实打实踩了坑。现在把完整的思路和可复现的流程整理出来给正要碰多特征CNN的朋友一个参考。这个项目适合谁两类人。一类是做工业数据、传感器数据、跨域融合的开发者输入往往不是干净的图像而是表格加时序加统计量的混合体另一类是已经会用CNN但觉得网格搜索调参太费时间、想换贝叶斯优化提效的人。读完你可以直接拿到一套从数据处理、网络设计到贝叶斯超参搜索的完整方案。1. 项目整体设计思路拆解1.1 为什么多特征输入在CNN场景下是硬骨头单特征输入比如一张224x224的RGB图网络结构是现成的直接套ResNet、VGG就行根本不用操心输入维度怎么对齐。但多特征输入这个限制条件一加上问题就变味了。先说一个我在项目里实际遇到的输入构成数值型特征传感器采集的统计量像均值、标准差、峰度这类一共十几个维度数值本身不在同一个量纲上类别型特征设备的工作模式、工况代号属于离散值没法直接丢进卷积一维时序片段每段长度固定为200个采样点包含了波形形态信息是这组特征里最有卷积价值的部分。如果把这三类直接横向拼成一大条向量再送进CNN卷积核会同时扫过风马牛不相及的维度卷积运算的局部相关性假设直接被打破。这就是多特征输入场景下CNN的第一个核心矛盾卷积操作天然假设输入在空间或时间上具有局部连续性而拼接后的混合特征在物理意义上并不连续。所以我最初的方案就不是单网络单输入而是改成多分支结构。这个决策在效果上是决定性的后面实测过拼接和分支两种方式同样的超参数搜索预算分支结构分类准确率高出4到5个百分点。理由很直接数值特征用全连接分支提取高阶组合时序特征用1D卷积分支提取局部形态最后在特征层做融合各分支的专业分工更贴近数据本身的属性。1.2 为什么超参数选择必须上贝叶斯优化CNN的超参数多学习率、卷积核通道数、卷积核尺寸、Dropout、批大小每个组合都会带来训练速度和最终指标的巨大差异。常规调参大家基本还在做网格搜索或随机搜索网格搜索的问题很典型维度一多搜索次数是指数膨胀的。我是拿随机搜索和贝叶斯优化做了个粗略对比才觉得必须上贝叶斯。假设超参数空间有5个维度每种取10个候选值组合是10的5次方也就是10万次训练这谁扛得住。随机搜索虽然比网格好但本质上还是无方向地瞎试每次评估都是昂贵的训练成本完全不考虑历史信息。贝叶斯优化的基本逻辑完全不同。它把寻优过程当作一个序贯决策问题核心由两部分构成代理模型Surrogate Model和采集函数Acquisition Function。代理模型的作用是用已经尝试过的超参数组合和其对应的验证集准确率作为观测数据拟合成一个关于目标函数准确率的概率分布。也就是说它并不是直接猜下一组超参数而是先建立一个哪些区域可能精度高的认知地图。高斯过程是经典的代理模型我自己项目用的是基于高斯过程的方案虽然计算量略大但胜在拟合稳定。采集函数的作用是在代理模型的预测均值基础上结合不确定性去决定下一次应该在哪个区域采样。最常用的EIExpected Improvement期望提升会计算每个候选点的比当前最好结果提升多少的期望值在开发Exploitation选均值高的区域与探索Exploration选不确定度高的区域之间自动平衡。这就不难理解为什么贝叶斯优化在CNN调参场景这么贴合。一次CNN训练动辄几分钟到几十分钟样本评估成本极其昂贵贝叶斯优化恰恰在样本量很少的情况下就能给出不错的搜索策略10到20轮迭代往往就能逼近一个很好的超参组合。比起暴力搜索它更像是聪明的向导而不是只会枚举的数量枚举器。2. 多特征输入的CNN结构设计与数据预处理2.1 数据规范化是第一步但别用同一种方式处理所有特征多特征输入最大的陷阱在于变量同权处理。我在项目一开始用了一个比较粗暴的做法把所有特征拿StandardScaler统一标准化了再拼接。结果数值特征倒是正常了但类别特征被拉成了小数值浮点反而丢掉了离散语义时序特征又被压到零均值方差虽然波形形状还在但如果类别特征直接参与数值填充网络前几层会花费大量精力去学一个根本不存在的大小关系。后面我调整成了分类型处理的方式。数值特征统一做Z-score标准化这一步我保留了原始均值和方法变量避免标准化后设备不同工况下数值的区分度被削弱。类别特征转成One-Hot或者直接嵌入到一个可学习的Embedding层里根据类别数量设定嵌入维度。时序特征不做全局标准化而是按每个样本自身的片段时间序列做归一化因为时序特征更重要的是波形形态而不是量级绝对值。如果你也遇到数值特征里有个别离群值特别大建议先做RobustScaler也就是用中位数和四分位距缩放不然一个异常值就能把Z-score拉出一个高达十几的偏差。2.2 多分支结构三条支路各自提特征再汇合预测这个项目最终采用的CNN结构可以概括成三支路提取 融合分类。每个支路对应一种特征类型支路的输出在特征维度上Concat再交给全连接层做分类。数值特征分支输入是十几维向量直接接全连接层用ReLU激活中间加入BatchNorm。这个分支不要做太深两层隐层足够因为数值特征本身信息密度高层数过多容易过拟合。类别特征分支输入是几个离散编号。先经过嵌入层映射成稠密向量再把多个嵌入向量拼接后接一个全连接层。嵌入维度通常取min(50, 类别数的平方根再乘2)别贪大否则参数会翻倍。时序特征分支输入是长度200的一维序列。用两层1D卷积第一层卷积核大小设为7通道数64第二层卷积核大小5通道数128每层后跟BatchNorm和MaxPool。这个分支的设计初衷就是提取波形的局部形态变化所以卷积核的尺寸不宜过小过小只能捕捉点与点的关系捕捉不了形态段。三个分支的输出在特征维度上拼接得到的融合向量再输入给一个全连接分类头。分类头我用了三层最后一层用Softmax输出各类别概率。融合位置放哪早期做法是直接在输入端拼融合后来发现三个支路的输出维度差异大Scaling不一致容易导致梯度主导来自某一支路。把融合放在各支路提取完特征之后网络内部各分支可以各自学到合适的特征尺度这一点至关重要。2.3 损失函数与训练配置分类目标有5个类别我用的是交叉熵损失。考虑到类别不均衡在损失函数里加上每个类别的权重权重和类别样本数的倒数成正比防止大类别带偏模型。优化器选择了AdamW配CosineAnnealing学习率调度。为什么不选SGD在超参数搜索过程中SGD对学习率极其敏感需要比较精细的手动调节而AdamW对学习率的鲁棒性明显更好更适合配合自动化搜索一起跑。初始学习率这个值不作为固定值作为待搜索超参数之一。注意Batch Size在这里不能太大因为我的时序分支最长序列300个点数值分支参数量不算多但太大的批大小会显著降低贝叶斯优化的搜索效率每一轮训练时间会翻倍。3. 贝叶斯优化超参数实现全过程3.1 超参数搜索空间的确定与参数选择逻辑贝叶斯优化的第一步也是影响效果最大的一步是定义搜索空间。搜索空间定得太窄最优解可能在边界外定得太宽搜索效率会被无意义的区域消耗。我结合区分经验设置了如下范围在搜索空间设计上有一个关键点学习率选择对数均匀分布而不是均匀分布因为学习率在0.001和0.01之间的差异在训练动态上远大于0.1和0.2之间的差异。对数均匀分布可以在数量级层面均匀采样。Dropout值设置在0.1到0.5之间均匀分布因为Dropout在0.3以上的差异对正则化的影响梯度并不陡峭。卷积核通道数的取值也做了粗调没有直接给连续区间而是给了一组离散值[32, 64, 128]。离散值的好处是候选组合总数显著降低贝叶斯优化的代理模型更容易拟合。超参数个数控制在6个以内比较明智。我曾经试过把每种特征分支的层数、激活函数都设为独立超参数结果是搜索空间爆炸20轮迭代根本搜不到好区域。后来固定结构、只搜关键超参数效果反而立竿见影。3.2 贝叶斯优化引擎选择自己构建还是用现成库现成库我先试用了几种插件的成熟度都不错但我最后选择用的是Optuna。原因是Optuna提供最简洁的动态超参数定义接口而且自带TPE采样算法Tree-structured Parzen Estimator。TPE与高斯过程的一个实操区别在于TPE更适合离散型超参数和条件型超参数空间而且不存在高斯过程伴随的高维核矩阵计算。如果用高斯过程在超参数维度超过6个或者在离散变量与连续变量混合的场景下GP的核矩阵计算会越来越慢拟合精度还会掉。TPE没有这样的问题因为TPE的做法是把观测值分成两个分布好结果对应的超参数分布以及差结果对应的超参数分布然后从这两个分布的似然比中推导候选点。计算开销显著更低扩展性更好。我实际用的整条搜索流程如下定义目标函数Objective(trial)输入一组超参数内部完成CNN模型构建、训练、验证集准确率评估返回一个可优化的标量值我这里设定为1减去验证集准确率因为Optuna默认是做最小化。定义搜索空间并指定采样器为TPESampler。创建10个随机试验作为预烧期建立初始观测集。迭代运行100次试验受时间限制我最终跑到80次每次试验严格使用同一套数据切分避免数据划分不同带来的指标波动干扰代理模型的判断。每次试验结束记录最优超参数组合和验证指标并同步保留网络的权重文件。关于数据切分这一点很多人容易忽略贝叶斯优化的每一轮试验必须使用完全相同的数据划分方式否则代理模型会把数据随机性当成超参数好坏导致搜索结果完全失真。我建议在开始搜索之前就把训练、验证、测试的索引下标存成文件。3.3 单次训练训练评估的轻量化设计贝叶斯优化过程中需要反复训练模型单次训练的时间直接决定总搜索成本。我的优化思路是把每次试验的epoch数设为50但增加EarlyStopping的判定当验证集损失在15个epoch内不下降时提前终止训练并返回当前验证集指标。这一招能把平均训练时间压缩到原来的40%到50%。比如有些超参数组合本身训练速度极慢且不收敛早停能及时止损省下大量时间给更有希望的候选超参组合。EarlyStopping的恢复策略选择的是恢复最优权重而非最后一轮权重。如果直接返回最后一轮验证准确率可能早停时已经过了最优点的几轮指标会被压低。恢复最优权重可以把每轮试验的数据质量提到最高。4. 训练流程与实验结果分析4.1 数据准备与切分的实操细节数据总量大约有5000条样本类别分布约为[0.34, 0.22, 0.18, 0.16, 0.10]确实不太均衡。切分方式按72%训练、13%验证、15%测试的比例划分采用StratifiedSplit这一个分层抽样策略保证每一折的类别比例和全量分布一致。类别不均衡下直接按全局比例切分最坏的情况是某个少数类在验证集里只有几十个样本指标波动会相当剧烈。分层抽样之后每个类别的套外评估可信度高了不少验证集准确率能更稳定地反映出模型真实表现。处理特征值时我发现有几个数值特征存在传感器漂移现象也就是同一设备同一工况下数值整体随着时间缓慢偏移。如果不处理模型会学到漂移痕迹而不是真正的工况差异。我的处理方式是按时间戳做差分或者高通滤波提取变化量特征让模型关注相对变化而不是绝对量值。4.2 贝叶斯优化过程轨迹与收敛性搜索过程跑完80次试验我记录了每轮验证集准确率的变化轨迹。前10轮基本是盲人摸象准确率在0.72到0.76之间乱跳。第10轮到第30轮代理模型开始锁定高价值区域验证准确率快速拉升到0.84左右。第40轮之后提升就非常平缓了最高点出现在第74轮验证准确率为0.886。比准确率数字更重要的是代理模型选择的超参数分布变化。前20轮里学习率被采样到1e-3以上的次数很多对应训练振荡明显。随着贝叶斯优化迭代采样的学习率逐步向1e-4到5e-4区间集中卷积核通道数也稳定在128附近。这也是贝叶斯优化的价值表现它会把搜索集中在真正有效的区域而不是在无关空间里浪费资源。初期我自己手动试过一组参数准确率瓶颈在0.79左右再也上不去。从贝叶斯优化返回的最优参数组合去训练测试集准确率达到0.872相比原有两个万级的有效提升。关键优化参数如下其中时序分支的卷积核大小直接影响到形态提取粒度最优组合里选择了尺寸5的核既不是更短的3也不是更长的9。可见更长卷积核能提取更大感受野这种直觉是有条件的具体数据下还是要靠搜索。4.3 最优模型的消融分析模型训练好之后我又做了一次消融验证只有对比特征分支各自对最终准确率的贡献才算闭环。做法是逐一屏蔽某个分支的输出在测试集上重新评估融合模型的准确率。屏蔽数值特征分支后准确率从0.872下降到0.796下降幅度约7.6个百分点屏蔽时序特征分支后准确率从0.872下降到0.801下降幅度约7.1个百分点屏蔽类别特征分支后准确率从0.872下降到0.831下降幅度约4.1个百分点。三支路的贡献都比较明显没有哪个分支是冗余的。时序和数值分支是主要贡献源类别分支虽然有区分度但信息维度较低、影响相对弱一些。如果只是单特征输入推一个简单的MLP或CNN效果大约在0.75到0.78左右。多特征融合加贝叶斯优化整体达到了接近0.87的水平融合的增益确实是实打实的。4.4 源码级实现贝叶斯优化加持下的CNN训练核心代码给出一份可直接改写的核心代码框架框架基于Python深度学习框架用的是PyTorch优化库用的是Optuna。调用的核心代码结构是这样的在这份代码里有三点值得专门说说。第一优化指标是1减去验证准确率Optuna内部会自己最小化这个值所以最后的最优试验对应的是准确率最高的那一组参数。第二n_trials80设置在时间紧的任务里也够用但如果你算力充裕加到150轮效果更稳定。第三return语句返回的是验证集指标绝不可以用测试集指标参与搜索否则测试集就丧失独立性了最后对测试结果的评估都会变得没有意义。我还额外保存了每次试验的完整日志包括超参数、验证指标、训练时间。这些日志对事后分析特别有用画一条迭代轮次 vs 验证指标的折线图可以直观判断优化是否还在有意义的阶段。如果曲线进入平台期就可以提前结束搜索省时省力。5. 常见问题与排查经验5.1 特征融合后验证指标不升反降这个问题我遇到过不止一次多特征融合理论上应该带来增益但实际做出来准确率反而比单一最强特征还低。原因一般是两个第一融合位置选在了输入层前面说过混合空间里卷积的局部相关性假设会失效第二不同分支的特征没有各自归一化到合理范围梯度更新被某一支路主导。排查思路是逐支路检查梯度丢失情况。具体到代码里就是在每个分支的输出后加一个register_hook打印梯度的L2范数。数值特征分支和时序分支的梯度量级如果相差十倍以上那就需要给梯度量级较小的分支加一个缩放系数。我之前的项目就是通过这一招定位到问题数值分支梯度范数在0.1量级时序分支在0.01量级导致了时序分支的卷积核几乎学不出有效滤波。调整分支输出的权重初始化尺度之后指标立刻回升。5.2 贝叶斯优化一直停留在同一区域不搜索表现是连续十几轮采样的超参数组合都非常接近验证准确率没有提升但代理模型还在原地打转。这个现象的根因往往是采集函数里的开发占比过高探索部分被压抑了。解决办法有两个。第一每一轮采样之后给验证集准确率加一个微小随机噪声打破代理模型对观测值的过度自信相当于轻度扰动促使它去探索不确定区域第二把TPESampler的n_startup_trials调大也就是说让随机搜索的预烧期更长一点前期积累更多样化的观测点。我后来把预烧期从5调到了12搜索多样性明显改善。还有一点值得说明如果你的超参数全部是高离散度的枚举值贝叶斯优化的优势会被削弱因为离散空间里代理模型的概率建模没有连续空间那么细腻。这种情况建议手动减少枚举取值数量或者把部分枚举值放宽成连续区间。5.3 训练过程GPU显存溢出多分支结构比单分支结构更耗显存因为每个分支都有独立的参数和中间激活值。在Batch Size上限附近容易出现显存溢出可能一下子就把整个实验中断了。我的经验是把Batch Size作为搜索空间的一部分同时设置一个显存安全的竖固值。比如模型在Batch Size为32时能跑64时溢出设置上限为32确保搜索过程中的所有试验都稳定运行。因为试验失败会让代理模型接收到失效点信息这会干扰它拟合目标函数的平滑性。如果显存确实紧张还有一个办法就是共享部分底层特征。把数值特征和类别特征分支的前几层设计成共享权重训练参数量可以减少15%到20%。缺点是特征类型差异过大时共享底层会限制各支路的特异性提取能力需要在效果和资源之间做权衡。5.4 优化效果评估贝叶斯优化与手动调参的差距手动调参做到极致验证集准确率大约在0.82到0.83。而贝叶斯优化跑到80轮就稳定达到了0.885左右。我在这次项目中使用的训练时长约两个半小时单卡环境如果全部交给手动排列组合至少需要两三天。成本控制上还有一个建议搜索阶段用简化版结构也就是把每个分支的层数和通道数缩减一半先把主要超参数学习率、Dropout、卷积核大小搜索到位最后用最优参数在完整模型上重训一次。这种做法可以显著降低搜索成本整体耗时约为原方案的70%而准确率损失控制在0.5个百分点以内。6. 项目扩展方向与进一步优化空间项目走到这个阶段分类准确率已经不错了但多特征输入和贝叶斯优化的组合还有几个值得继续打磨的方向。第一个方向是条件型超参数空间。我现在所有的超参数都是无条件采样但实际上有一些超参数只在特定条件下才生效。比如时序分支的卷积核尺寸只在分支启用的时候才起作用。Optuna支持条件采样可以根据前面的参数取值动态限定后序参数的范围搜索空间会更紧凑收敛速度也会更快。第二个方向是代理模型升级。TPE适合通用场景但如果你拥有大量历史实验数据可以考虑把代理模型换成高斯过程或集成模型直接利用历史数据来初始化拟合而不是从零开始。在算力充足的项目上实测收敛轮次可以减少约20%。第三个方向是多目标优化。分类准确率只是其中目标之一实际业务中还需要考虑推理耗时、模型参数量。把准确率和推理时延设置成两个优化目标贝叶斯优化会在帕累托前沿上搜索一系列候选点最终按照业务偏好从这些点中选择部署方案。这个方向对模型落地的价值特别大。还有一点这个多分支结构本质上属于多模态的简化版。如果你的输入未来扩展到图像或文本可以让图像分支走2D卷积、文本分支走1D卷积或Transformer主体框架不需要动替换掉具体分支即可。骨架的通用性已经在这次项目中得到了验证。最后分享一点实操体会这个项目做下来我最大的感受是多特征输入的CNN结构设计远远重于超参数调优。数据怎么按物理意义分路、融合放在哪一层这两个决策决定了模型效果的上限贝叶斯优化只是在给定上限附近尽量逼近而已。先把这些问题想清楚再上贝叶斯优化才是正确的顺序。反过来不要指望一个超参搜索工具能拯救不合理的数据拼接和结构设计。如果只让我浓缩成三条给后来者的建议第一特征融合一定要分路提取后融合别在输入端硬拼第二贝叶斯优化每一轮试验都要用完全一样的数据切分否则序列决策会失真第三搜索过程中记得保存日志和最优权重这不仅能让你复盘优化轨迹也能在跑了大半天之后不至于因为一次意外中断而丢光全部进度。
做深度学习也快十年了分类模型做过不少但绝大部分场景都是拿图像做输入。真正让我觉得这个坑值得写出来的是去年做的一个多特征输入分类项目。项目本身不复杂就是结合贝叶斯优化算法去调CNN的超参数输入却不是单一种类而是多路异构特征——有些是连续数值有些是类别编号还有些是一维的时序片段。一开始还觉得不就是拼特征嘛结果在特征融合、网络结构、超参搜索三个环节上都实打实踩了坑。现在把完整的思路和可复现的流程整理出来给正要碰多特征CNN的朋友一个参考。这个项目适合谁两类人。一类是做工业数据、传感器数据、跨域融合的开发者输入往往不是干净的图像而是表格加时序加统计量的混合体另一类是已经会用CNN但觉得网格搜索调参太费时间、想换贝叶斯优化提效的人。读完你可以直接拿到一套从数据处理、网络设计到贝叶斯超参搜索的完整方案。1. 项目整体设计思路拆解1.1 为什么多特征输入在CNN场景下是硬骨头单特征输入比如一张224x224的RGB图网络结构是现成的直接套ResNet、VGG就行根本不用操心输入维度怎么对齐。但多特征输入这个限制条件一加上问题就变味了。先说一个我在项目里实际遇到的输入构成数值型特征传感器采集的统计量像均值、标准差、峰度这类一共十几个维度数值本身不在同一个量纲上类别型特征设备的工作模式、工况代号属于离散值没法直接丢进卷积一维时序片段每段长度固定为200个采样点包含了波形形态信息是这组特征里最有卷积价值的部分。如果把这三类直接横向拼成一大条向量再送进CNN卷积核会同时扫过风马牛不相及的维度卷积运算的局部相关性假设直接被打破。这就是多特征输入场景下CNN的第一个核心矛盾卷积操作天然假设输入在空间或时间上具有局部连续性而拼接后的混合特征在物理意义上并不连续。所以我最初的方案就不是单网络单输入而是改成多分支结构。这个决策在效果上是决定性的后面实测过拼接和分支两种方式同样的超参数搜索预算分支结构分类准确率高出4到5个百分点。理由很直接数值特征用全连接分支提取高阶组合时序特征用1D卷积分支提取局部形态最后在特征层做融合各分支的专业分工更贴近数据本身的属性。1.2 为什么超参数选择必须上贝叶斯优化CNN的超参数多学习率、卷积核通道数、卷积核尺寸、Dropout、批大小每个组合都会带来训练速度和最终指标的巨大差异。常规调参大家基本还在做网格搜索或随机搜索网格搜索的问题很典型维度一多搜索次数是指数膨胀的。我是拿随机搜索和贝叶斯优化做了个粗略对比才觉得必须上贝叶斯。假设超参数空间有5个维度每种取10个候选值组合是10的5次方也就是10万次训练这谁扛得住。随机搜索虽然比网格好但本质上还是无方向地瞎试每次评估都是昂贵的训练成本完全不考虑历史信息。贝叶斯优化的基本逻辑完全不同。它把寻优过程当作一个序贯决策问题核心由两部分构成代理模型Surrogate Model和采集函数Acquisition Function。代理模型的作用是用已经尝试过的超参数组合和其对应的验证集准确率作为观测数据拟合成一个关于目标函数准确率的概率分布。也就是说它并不是直接猜下一组超参数而是先建立一个哪些区域可能精度高的认知地图。高斯过程是经典的代理模型我自己项目用的是基于高斯过程的方案虽然计算量略大但胜在拟合稳定。采集函数的作用是在代理模型的预测均值基础上结合不确定性去决定下一次应该在哪个区域采样。最常用的EIExpected Improvement期望提升会计算每个候选点的比当前最好结果提升多少的期望值在开发Exploitation选均值高的区域与探索Exploration选不确定度高的区域之间自动平衡。这就不难理解为什么贝叶斯优化在CNN调参场景这么贴合。一次CNN训练动辄几分钟到几十分钟样本评估成本极其昂贵贝叶斯优化恰恰在样本量很少的情况下就能给出不错的搜索策略10到20轮迭代往往就能逼近一个很好的超参组合。比起暴力搜索它更像是聪明的向导而不是只会枚举的数量枚举器。2. 多特征输入的CNN结构设计与数据预处理2.1 数据规范化是第一步但别用同一种方式处理所有特征多特征输入最大的陷阱在于变量同权处理。我在项目一开始用了一个比较粗暴的做法把所有特征拿StandardScaler统一标准化了再拼接。结果数值特征倒是正常了但类别特征被拉成了小数值浮点反而丢掉了离散语义时序特征又被压到零均值方差虽然波形形状还在但如果类别特征直接参与数值填充网络前几层会花费大量精力去学一个根本不存在的大小关系。后面我调整成了分类型处理的方式。数值特征统一做Z-score标准化这一步我保留了原始均值和方法变量避免标准化后设备不同工况下数值的区分度被削弱。类别特征转成One-Hot或者直接嵌入到一个可学习的Embedding层里根据类别数量设定嵌入维度。时序特征不做全局标准化而是按每个样本自身的片段时间序列做归一化因为时序特征更重要的是波形形态而不是量级绝对值。如果你也遇到数值特征里有个别离群值特别大建议先做RobustScaler也就是用中位数和四分位距缩放不然一个异常值就能把Z-score拉出一个高达十几的偏差。2.2 多分支结构三条支路各自提特征再汇合预测这个项目最终采用的CNN结构可以概括成三支路提取 融合分类。每个支路对应一种特征类型支路的输出在特征维度上Concat再交给全连接层做分类。数值特征分支输入是十几维向量直接接全连接层用ReLU激活中间加入BatchNorm。这个分支不要做太深两层隐层足够因为数值特征本身信息密度高层数过多容易过拟合。类别特征分支输入是几个离散编号。先经过嵌入层映射成稠密向量再把多个嵌入向量拼接后接一个全连接层。嵌入维度通常取min(50, 类别数的平方根再乘2)别贪大否则参数会翻倍。时序特征分支输入是长度200的一维序列。用两层1D卷积第一层卷积核大小设为7通道数64第二层卷积核大小5通道数128每层后跟BatchNorm和MaxPool。这个分支的设计初衷就是提取波形的局部形态变化所以卷积核的尺寸不宜过小过小只能捕捉点与点的关系捕捉不了形态段。三个分支的输出在特征维度上拼接得到的融合向量再输入给一个全连接分类头。分类头我用了三层最后一层用Softmax输出各类别概率。融合位置放哪早期做法是直接在输入端拼融合后来发现三个支路的输出维度差异大Scaling不一致容易导致梯度主导来自某一支路。把融合放在各支路提取完特征之后网络内部各分支可以各自学到合适的特征尺度这一点至关重要。2.3 损失函数与训练配置分类目标有5个类别我用的是交叉熵损失。考虑到类别不均衡在损失函数里加上每个类别的权重权重和类别样本数的倒数成正比防止大类别带偏模型。优化器选择了AdamW配CosineAnnealing学习率调度。为什么不选SGD在超参数搜索过程中SGD对学习率极其敏感需要比较精细的手动调节而AdamW对学习率的鲁棒性明显更好更适合配合自动化搜索一起跑。初始学习率这个值不作为固定值作为待搜索超参数之一。注意Batch Size在这里不能太大因为我的时序分支最长序列300个点数值分支参数量不算多但太大的批大小会显著降低贝叶斯优化的搜索效率每一轮训练时间会翻倍。3. 贝叶斯优化超参数实现全过程3.1 超参数搜索空间的确定与参数选择逻辑贝叶斯优化的第一步也是影响效果最大的一步是定义搜索空间。搜索空间定得太窄最优解可能在边界外定得太宽搜索效率会被无意义的区域消耗。我结合区分经验设置了如下范围在搜索空间设计上有一个关键点学习率选择对数均匀分布而不是均匀分布因为学习率在0.001和0.01之间的差异在训练动态上远大于0.1和0.2之间的差异。对数均匀分布可以在数量级层面均匀采样。Dropout值设置在0.1到0.5之间均匀分布因为Dropout在0.3以上的差异对正则化的影响梯度并不陡峭。卷积核通道数的取值也做了粗调没有直接给连续区间而是给了一组离散值[32, 64, 128]。离散值的好处是候选组合总数显著降低贝叶斯优化的代理模型更容易拟合。超参数个数控制在6个以内比较明智。我曾经试过把每种特征分支的层数、激活函数都设为独立超参数结果是搜索空间爆炸20轮迭代根本搜不到好区域。后来固定结构、只搜关键超参数效果反而立竿见影。3.2 贝叶斯优化引擎选择自己构建还是用现成库现成库我先试用了几种插件的成熟度都不错但我最后选择用的是Optuna。原因是Optuna提供最简洁的动态超参数定义接口而且自带TPE采样算法Tree-structured Parzen Estimator。TPE与高斯过程的一个实操区别在于TPE更适合离散型超参数和条件型超参数空间而且不存在高斯过程伴随的高维核矩阵计算。如果用高斯过程在超参数维度超过6个或者在离散变量与连续变量混合的场景下GP的核矩阵计算会越来越慢拟合精度还会掉。TPE没有这样的问题因为TPE的做法是把观测值分成两个分布好结果对应的超参数分布以及差结果对应的超参数分布然后从这两个分布的似然比中推导候选点。计算开销显著更低扩展性更好。我实际用的整条搜索流程如下定义目标函数Objective(trial)输入一组超参数内部完成CNN模型构建、训练、验证集准确率评估返回一个可优化的标量值我这里设定为1减去验证集准确率因为Optuna默认是做最小化。定义搜索空间并指定采样器为TPESampler。创建10个随机试验作为预烧期建立初始观测集。迭代运行100次试验受时间限制我最终跑到80次每次试验严格使用同一套数据切分避免数据划分不同带来的指标波动干扰代理模型的判断。每次试验结束记录最优超参数组合和验证指标并同步保留网络的权重文件。关于数据切分这一点很多人容易忽略贝叶斯优化的每一轮试验必须使用完全相同的数据划分方式否则代理模型会把数据随机性当成超参数好坏导致搜索结果完全失真。我建议在开始搜索之前就把训练、验证、测试的索引下标存成文件。3.3 单次训练训练评估的轻量化设计贝叶斯优化过程中需要反复训练模型单次训练的时间直接决定总搜索成本。我的优化思路是把每次试验的epoch数设为50但增加EarlyStopping的判定当验证集损失在15个epoch内不下降时提前终止训练并返回当前验证集指标。这一招能把平均训练时间压缩到原来的40%到50%。比如有些超参数组合本身训练速度极慢且不收敛早停能及时止损省下大量时间给更有希望的候选超参组合。EarlyStopping的恢复策略选择的是恢复最优权重而非最后一轮权重。如果直接返回最后一轮验证准确率可能早停时已经过了最优点的几轮指标会被压低。恢复最优权重可以把每轮试验的数据质量提到最高。4. 训练流程与实验结果分析4.1 数据准备与切分的实操细节数据总量大约有5000条样本类别分布约为[0.34, 0.22, 0.18, 0.16, 0.10]确实不太均衡。切分方式按72%训练、13%验证、15%测试的比例划分采用StratifiedSplit这一个分层抽样策略保证每一折的类别比例和全量分布一致。类别不均衡下直接按全局比例切分最坏的情况是某个少数类在验证集里只有几十个样本指标波动会相当剧烈。分层抽样之后每个类别的套外评估可信度高了不少验证集准确率能更稳定地反映出模型真实表现。处理特征值时我发现有几个数值特征存在传感器漂移现象也就是同一设备同一工况下数值整体随着时间缓慢偏移。如果不处理模型会学到漂移痕迹而不是真正的工况差异。我的处理方式是按时间戳做差分或者高通滤波提取变化量特征让模型关注相对变化而不是绝对量值。4.2 贝叶斯优化过程轨迹与收敛性搜索过程跑完80次试验我记录了每轮验证集准确率的变化轨迹。前10轮基本是盲人摸象准确率在0.72到0.76之间乱跳。第10轮到第30轮代理模型开始锁定高价值区域验证准确率快速拉升到0.84左右。第40轮之后提升就非常平缓了最高点出现在第74轮验证准确率为0.886。比准确率数字更重要的是代理模型选择的超参数分布变化。前20轮里学习率被采样到1e-3以上的次数很多对应训练振荡明显。随着贝叶斯优化迭代采样的学习率逐步向1e-4到5e-4区间集中卷积核通道数也稳定在128附近。这也是贝叶斯优化的价值表现它会把搜索集中在真正有效的区域而不是在无关空间里浪费资源。初期我自己手动试过一组参数准确率瓶颈在0.79左右再也上不去。从贝叶斯优化返回的最优参数组合去训练测试集准确率达到0.872相比原有两个万级的有效提升。关键优化参数如下其中时序分支的卷积核大小直接影响到形态提取粒度最优组合里选择了尺寸5的核既不是更短的3也不是更长的9。可见更长卷积核能提取更大感受野这种直觉是有条件的具体数据下还是要靠搜索。4.3 最优模型的消融分析模型训练好之后我又做了一次消融验证只有对比特征分支各自对最终准确率的贡献才算闭环。做法是逐一屏蔽某个分支的输出在测试集上重新评估融合模型的准确率。屏蔽数值特征分支后准确率从0.872下降到0.796下降幅度约7.6个百分点屏蔽时序特征分支后准确率从0.872下降到0.801下降幅度约7.1个百分点屏蔽类别特征分支后准确率从0.872下降到0.831下降幅度约4.1个百分点。三支路的贡献都比较明显没有哪个分支是冗余的。时序和数值分支是主要贡献源类别分支虽然有区分度但信息维度较低、影响相对弱一些。如果只是单特征输入推一个简单的MLP或CNN效果大约在0.75到0.78左右。多特征融合加贝叶斯优化整体达到了接近0.87的水平融合的增益确实是实打实的。4.4 源码级实现贝叶斯优化加持下的CNN训练核心代码给出一份可直接改写的核心代码框架框架基于Python深度学习框架用的是PyTorch优化库用的是Optuna。调用的核心代码结构是这样的在这份代码里有三点值得专门说说。第一优化指标是1减去验证准确率Optuna内部会自己最小化这个值所以最后的最优试验对应的是准确率最高的那一组参数。第二n_trials80设置在时间紧的任务里也够用但如果你算力充裕加到150轮效果更稳定。第三return语句返回的是验证集指标绝不可以用测试集指标参与搜索否则测试集就丧失独立性了最后对测试结果的评估都会变得没有意义。我还额外保存了每次试验的完整日志包括超参数、验证指标、训练时间。这些日志对事后分析特别有用画一条迭代轮次 vs 验证指标的折线图可以直观判断优化是否还在有意义的阶段。如果曲线进入平台期就可以提前结束搜索省时省力。5. 常见问题与排查经验5.1 特征融合后验证指标不升反降这个问题我遇到过不止一次多特征融合理论上应该带来增益但实际做出来准确率反而比单一最强特征还低。原因一般是两个第一融合位置选在了输入层前面说过混合空间里卷积的局部相关性假设会失效第二不同分支的特征没有各自归一化到合理范围梯度更新被某一支路主导。排查思路是逐支路检查梯度丢失情况。具体到代码里就是在每个分支的输出后加一个register_hook打印梯度的L2范数。数值特征分支和时序分支的梯度量级如果相差十倍以上那就需要给梯度量级较小的分支加一个缩放系数。我之前的项目就是通过这一招定位到问题数值分支梯度范数在0.1量级时序分支在0.01量级导致了时序分支的卷积核几乎学不出有效滤波。调整分支输出的权重初始化尺度之后指标立刻回升。5.2 贝叶斯优化一直停留在同一区域不搜索表现是连续十几轮采样的超参数组合都非常接近验证准确率没有提升但代理模型还在原地打转。这个现象的根因往往是采集函数里的开发占比过高探索部分被压抑了。解决办法有两个。第一每一轮采样之后给验证集准确率加一个微小随机噪声打破代理模型对观测值的过度自信相当于轻度扰动促使它去探索不确定区域第二把TPESampler的n_startup_trials调大也就是说让随机搜索的预烧期更长一点前期积累更多样化的观测点。我后来把预烧期从5调到了12搜索多样性明显改善。还有一点值得说明如果你的超参数全部是高离散度的枚举值贝叶斯优化的优势会被削弱因为离散空间里代理模型的概率建模没有连续空间那么细腻。这种情况建议手动减少枚举取值数量或者把部分枚举值放宽成连续区间。5.3 训练过程GPU显存溢出多分支结构比单分支结构更耗显存因为每个分支都有独立的参数和中间激活值。在Batch Size上限附近容易出现显存溢出可能一下子就把整个实验中断了。我的经验是把Batch Size作为搜索空间的一部分同时设置一个显存安全的竖固值。比如模型在Batch Size为32时能跑64时溢出设置上限为32确保搜索过程中的所有试验都稳定运行。因为试验失败会让代理模型接收到失效点信息这会干扰它拟合目标函数的平滑性。如果显存确实紧张还有一个办法就是共享部分底层特征。把数值特征和类别特征分支的前几层设计成共享权重训练参数量可以减少15%到20%。缺点是特征类型差异过大时共享底层会限制各支路的特异性提取能力需要在效果和资源之间做权衡。5.4 优化效果评估贝叶斯优化与手动调参的差距手动调参做到极致验证集准确率大约在0.82到0.83。而贝叶斯优化跑到80轮就稳定达到了0.885左右。我在这次项目中使用的训练时长约两个半小时单卡环境如果全部交给手动排列组合至少需要两三天。成本控制上还有一个建议搜索阶段用简化版结构也就是把每个分支的层数和通道数缩减一半先把主要超参数学习率、Dropout、卷积核大小搜索到位最后用最优参数在完整模型上重训一次。这种做法可以显著降低搜索成本整体耗时约为原方案的70%而准确率损失控制在0.5个百分点以内。6. 项目扩展方向与进一步优化空间项目走到这个阶段分类准确率已经不错了但多特征输入和贝叶斯优化的组合还有几个值得继续打磨的方向。第一个方向是条件型超参数空间。我现在所有的超参数都是无条件采样但实际上有一些超参数只在特定条件下才生效。比如时序分支的卷积核尺寸只在分支启用的时候才起作用。Optuna支持条件采样可以根据前面的参数取值动态限定后序参数的范围搜索空间会更紧凑收敛速度也会更快。第二个方向是代理模型升级。TPE适合通用场景但如果你拥有大量历史实验数据可以考虑把代理模型换成高斯过程或集成模型直接利用历史数据来初始化拟合而不是从零开始。在算力充足的项目上实测收敛轮次可以减少约20%。第三个方向是多目标优化。分类准确率只是其中目标之一实际业务中还需要考虑推理耗时、模型参数量。把准确率和推理时延设置成两个优化目标贝叶斯优化会在帕累托前沿上搜索一系列候选点最终按照业务偏好从这些点中选择部署方案。这个方向对模型落地的价值特别大。还有一点这个多分支结构本质上属于多模态的简化版。如果你的输入未来扩展到图像或文本可以让图像分支走2D卷积、文本分支走1D卷积或Transformer主体框架不需要动替换掉具体分支即可。骨架的通用性已经在这次项目中得到了验证。最后分享一点实操体会这个项目做下来我最大的感受是多特征输入的CNN结构设计远远重于超参数调优。数据怎么按物理意义分路、融合放在哪一层这两个决策决定了模型效果的上限贝叶斯优化只是在给定上限附近尽量逼近而已。先把这些问题想清楚再上贝叶斯优化才是正确的顺序。反过来不要指望一个超参搜索工具能拯救不合理的数据拼接和结构设计。如果只让我浓缩成三条给后来者的建议第一特征融合一定要分路提取后融合别在输入端硬拼第二贝叶斯优化每一轮试验都要用完全一样的数据切分否则序列决策会失真第三搜索过程中记得保存日志和最优权重这不仅能让你复盘优化轨迹也能在跑了大半天之后不至于因为一次意外中断而丢光全部进度。
平方复杂度无法被常规优化消除｜TaoToken 统一 Key 通道实测)
