发布时间:2026/8/25 17:22:45
沐神-动手学习深度学习-习题 4.3. 多层感知机的简洁实现 ####答案这一节介绍了如何使用深度学习框架如 PyTorch的高级 API 简洁地实现多层感知机MLP。相比上一节的“从零实现”简洁实现将重点放在了模型架构的定义和训练流程的标准化上。核心内容总结A. 模型定义使用 nn.Sequential 构建模型它可以按顺序将各个层串联起来。层级结构展平层 (nn.Flatten)将输入的 28 \times 28 二维图像转换为 784 维的一维向量。隐藏层 (nn.Linear)定义了输入为 784、输出为 256 的全连接层。激活层 (nn.ReLU)在隐藏层后添加非线性变换。输出层 (nn.Linear)将 256 个隐藏单元映射到 10 个分类输出。B. 参数初始化使用 nn.init.normal_ 对权重进行随机正态分布初始化。通常将偏置项初始化为 0。C. 训练配置损失函数使用 nn.CrossEntropyLoss()。它在内部结合了 Softmax 和交叉熵计算并处理了数值稳定性问题。优化器使用 torch.optim.SGD设置学习率如 0.1来更新参数。训练循环直接调用 d2l.train_ch3 函数这与之前的 Softmax 回归训练过程完全一致。习题答案解析Q1: 尝试添加更多的隐藏层看看它对结果有什么影响现象添加更多层可以增加模型的表达能力容量有时能进一步降低训练损失。风险如果层数过多且没有合适的正则化如 Dropout模型更容易发生过拟合。同时训练时间会增加。深度建议在 Fashion-MNIST 这种简单数据集上两到三个隐藏层通常就足够了。Q2: 尝试不同的激活函数。哪个效果最好ReLU目前最通用的选择收敛快且计算简单。Sigmoid容易导致梯度消失尤其是在层数较多时训练速度明显慢于 ReLU。Tanh性能通常介于两者之间但在深度网络中依然不如 ReLU 常用。Leaky ReLU在输入为负时保留微弱梯度有时能改善神经元“死亡”的问题。Q3: 尝试不同的方案来初始化权重。Xavier 初始化 (nn.init.xavier_uniform_)旨在保持每一层输出的方差一致特别适合 Sigmoid 和 Tanh 激活函数。Kaiming 初始化 (nn.init.kaiming_normal_)专为 ReLU 激活函数设计是目前深层网络中最主流的初始化方式。结论使用 Kaiming 初始化通常会让基于 ReLU 的 MLP 收敛更稳定。Q4: 调整超参数如学习率、迭代轮数、隐藏单元个数观察并分析结果。学习率太高会导致 Loss 震荡不下降太低会导致训练极慢。隐藏单元个数增加个数如 512 或 1024能提升准确率上限但会显著消耗更多显存和计算资源。迭代轮数 (Epochs)通常观察训练集和验证集的损失曲线。当验证集损失不再下降甚至上升时应停止训练防止过拟合。下一步建议掌握了简洁实现后你已经具备了构建中等复杂度网络的能力。接下来的 4.4 节“模型选择、欠拟合和过拟合” 将带你探讨如何科学地评估模型性能避免模型只是“死记硬背”数据。你想了解如何绘制损失曲线图来识别过拟合还是想看看**权重衰减L2 正则化**是如何解决这个问题的

相关新闻

2026/8/25 17:22:45

从功能清单到测试思维:深度拆解朋友圈测试用例设计

1. 从面试题到实战思维:朋友圈测试用例的深度拆解最近帮团队面试,又看到了这道经典题:“写一个微信朋友圈的测试用例”。说实话,这道题出现的频率高到几乎成了测试岗位的“必考题”。但有意思的是,十个候选人里&#x…

2026/8/25 17:17:44

智能体可观测性与管控实践:QClaw与ADP构建企业级AI工作流

1. 项目概述:从“智能体”到“可管可控”的跨越最近在折腾智能体(Agent)开发的朋友,估计都经历过一个相似的阶段:一开始,我们用LangChain、LlamaIndex这类框架,或者直接在Dify、Coze这类平台上拖…

2026/8/25 17:17:44

开源AI智能体协作框架:构建专业AI专家团队实现复杂任务自动化

1. 项目概述:当AI从单兵作战走向“团队协作”最近在AI圈子里,一个叫“agency-agents”的开源项目热度不低。乍一看名字,你可能会联想到那些“AI智能体”或者“多智能体”框架,但它的核心定位更聚焦、也更务实:构建一个…

2026/8/25 22:29:01

电站数据丢了能恢复吗?备份与恢复演练的工程清单

电站数据丢失,最常见的场景不是硬盘坏了,而是没人演练过恢复:网关重装、平台迁移、误删数据表,真出事时才发现备份没接上、恢复要一周。数据备份和恢复演练,应该像消防演练一样定期做。本文给出一份电站数据备份与恢复…

2026/8/25 22:29:01

被供应链坑过的老板,都懂这3个问题

半夜两点,手机狂震。你迷迷糊糊接起来,听到最怕的一句话:“老板,货又发错啦!”订单对不上、库存理不清、月底对账想骂娘——被供应链这么折腾过的老板,最后都会问:到底有没有好用的中台&#xf…

2026/8/25 22:29:01

【ESP32】串口错误

ESP32串口错误很多新手一不小心就掉进了以下错误,还到处找这是哪个函数进行打印的?它来自哪里,为什么会发生这样的错误?--- Error: GetOverlappedResult failed (PermissionError(13, 鎷掔粷璁块棶銆?, None, 5)) --- Waiting fo…

2026/8/25 22:29:01

计算机三级:NAT地址转换

计算机三级:NAT地址转换一. NAT是网络地址转换二. 例题一. NAT是网络地址转换 将内部专用的IP地址,转换为外部公用的IP地址 S源地址(从哪里来的) D目的地址(到哪里去的) 注意符号的书写,进制之间用点号隔开,端口号用逗号 下图是…

2026/8/25 22:29:01

[完结15章]Java转 AI高薪领域必备-从0到1打通生产级AI Agent开发

在人工智能应用从“被动问答”向“主动执行”跨越的当下,ReAct(Reasoning Acting)智能体模式成为了赋予大模型“手脚”与“大脑”的核心范式。与传统的检索增强生成(RAG)或单纯的函数调用不同,ReAct 强调让…

2026/8/25 22:24:01

FigmaCN:5分钟把Figma界面改成中文

FigmaCN:5分钟把Figma界面改成中文 【免费下载链接】figmaCN 中文 Figma 插件,设计师人工翻译校验 项目地址: https://gitcode.com/gh_mirrors/fi/figmaCN FigmaCN 是一款把 Figma 英文界面翻译成中文的汉化插件,词条由设计师人工校验…

2026/8/25 1:04:19

[光学原理与应用-521]:对光的错误理解与纠偏

首先光是一种能量的载体和形态,宏观上观察到的光是由无数个微观的光量子组成的,每个光子在产生的瞬间,其在真空的空间中以确定不变的速度沿着一个初始的方向一直向前,在微观层面,每个光量子的运动轨迹是以波函数所展现…

2026/8/25 11:48:27

SIP通话转接原理与REFER方法实战解析

1. 通话转接不是“挂断再拨号”,而是SIP会话的动态重定向你有没有遇到过这样的场景:客服坐席A正在和客户通电话,突然需要把这通对话无缝转给专家坐席B,客户完全感知不到中间的断连——既没听到忙音,也没被要求重新拨号…

2026/8/25 16:56:43

Kolla-ansible单节点OpenStack部署实战:从环境准备到排坑指南

1. 为什么选择Kolla-ansible来部署单节点OpenStack?如果你正在寻找一种能把OpenStack从“概念”快速变成“可用的实验环境”的方法,那么Kolla-ansible几乎是当前最主流、最省心的选择。我见过太多人卡在手动编译依赖、配置服务、处理版本冲突的泥潭里&am…

2026/8/25 0:04:14

三步把QQ空间历史说说导出到本地:GetQzonehistory 极简指南

三步把QQ空间历史说说导出到本地:GetQzonehistory 极简指南 【免费下载链接】GetQzonehistory 获取QQ空间发布的历史说说 项目地址: https://gitcode.com/GitHub_Trending/ge/GetQzonehistory Meta Description:GetQzonehistory 是一个QQ空间历史说…

2026/8/25 0:04:14

洛谷 P7912:[CSP-J 2021 T4] 小熊的果篮 ← 双向链表

【题目来源】 https://www.luogu.com.cn/problem/P7912 【题目描述】 小熊的水果店里摆放着一排 n 个水果。每个水果只可能是苹果或桔子,从左到右依次用正整数 1,2,…,n 编号。连续排在一起的同一种水果称为一个“块”。小熊要把这一排水果挑到若干个果篮里&#x…

2026/8/24 13:42:17

实测才敢推 AI论文网站 2026最新测评与推荐

2026年真正好用的AI论文网站,核心看生成的论文质量、低AI味、格式正确、学术适配四大指标。综合实测,千笔AI、ThouPen、豆包、DeepSeek、Grammarly 是当前最值得推荐的梯队,覆盖从免费到付费、从中文到英文、从文科到理工的全场景需求。一、综…

2026/8/24 18:13:48

2026必备!AI论文网站测评:最新推荐与深度对比

2026年真正好用的AI论文网站,核心看生成的论文质量、低AI味、格式正确、学术适配四大指标。综合实测,千笔AI、ThouPen、豆包、DeepSeek、Grammarly 是当前最值得推荐的梯队,覆盖从免费到付费、从中文到英文、从文科到理工的全场景需求。 一、…

2026/8/25 1:08:14

摆脱论文困扰!盘点2026年全网爆红的的AI论文写作工具

一天写完毕业论文在2026年已不再是天方夜谭。2026年最炸裂、实测能大幅提速的AI论文写作工具,覆盖选题构思、文献整理、内容生成、格式排版等核心场景,真正帮你高效搞定论文难题。 一、全流程王者:一站式搞定论文全链路(一天定稿首…