简介一份聚焦DeepSeek大模型本地部署与强化学习训练的全图解PDF面向对大模型感兴趣的初学者、技术爱好者及希望在本地环境应用模型的研发人员旨在以低成本方式解决部署入门与原理理解问题。资源共1个PDF文件约2.64MB以图文结合形式呈现包含操作界面截图与训练流程示意图便于对照阅读。已有2202人学习。内容从本地部署的三个步骤与运行演示切入延伸至LLM基础概念、Transformer架构以及预训练、监督微调、强化学习的基本训练方法并重点拆解DeepSeek-R1的完整训练过程、含R1-Zero的中间推理模型与通用强化学习两项核心创新。读者可借此快速建立从部署实操到推理模型训练逻辑的整体认知适合作为入门参考与前沿技术资料查阅。1. 别急着装环境先弄清「大模型装进自己电脑」是件什么事第一次听说大模型能装在自己电脑上很多人的第一反应是这不是几百亿个参数的东西吗我那台日常办公的笔记本怎么可能带得动更别说还要让它回答问题、写代码、做推理。这个疑问很合理但它建立在一个误解上——以为「装大模型」等于「把整个训练过程复制一遍」。实际上你只是把一份已经训练好的模型权重文件下载下来交给一个专门的运行程序去加载然后向它提问。就像你不用会造发动机也能开车你不需要显卡阵列也能在自己机器上跟一个模型聊天。这份资源要讲的正是这条从零开始的路用 Ollama 把 DeepSeek-R1 拉到本地三条命令进入对话再顺手搞懂它名字里的 1.5b 是什么意思、大模型是怎么被训练出来的、R1 为什么在推理上表现突出。零基础也能跟上装完就能用。2. 为什么要把模型搬回自己电脑三个能立刻感知的好处在动手之前值得花几分钟想清楚一件事云端对话窗口点开就能用为什么还要折腾本地部署如果你的答案是「因为听起来更高级」那大概率会在第二步卡住时放弃。真正撑着你走完这三步的是对好处有具体感知。这里说三个最容易在实际使用中体会到的。2.1 数据不出门隐私这件事只有在本地才真正成立只要你把内容发给远端服务无论对方声明多么严格数据在物理上都离开了你的机器。而本地部署的模型输入和输出只在你自己的硬盘和内存里流动网线拔了它照样能回答。这个差别在处理一些不方便外传的材料时特别明显比如内部文档草稿、还没公开的方案、客户名单的整理归纳。举个具体场景你手上有一份几十页的产品需求草稿想让模型帮你提炼待办项。走云端意味着整份文档上传走本地则只是本机内存里的一次读取。对于个人开发者和小团队这种「不必要的外传」减少一次是一次。这里说的不是绝对安全而是把可控范围收回到自己手上。提示本地部署解决的是「数据不外传」不解决「模型一定说得对」。这两件事经常被新手混在一起。2.2 断网也能用不受外部服务状态影响很多人对本地部署的好感是在某次急着用却连不上服务时建立起来的。云端服务会有维护窗口、会有高峰期排队、会有额度限制这些都是外部因素你控制不了。本地的模型加载好之后只要机器开着它就一直在那儿。对学习来说这一点更关键。新手最怕的是「刚有点感觉环境出问题了」。本地跑通之后你可以反复试、反复问、把同一个问题换十种问法去对比输出不用担心消耗额度也不用担心哪天服务策略调整。这种可以随便折腾的环境是学习阶段最值钱的东西。另外还有一层模型下载到本地之后那份权重文件就在你的硬盘上它不会明天变成另一个版本。你做对比实验时变量是可控的。做技术对比时这条特别重要玄学问题少一半。2.3 电脑配置到底要多高普通机器够不够这是新手问得最多、也最容易被吓退的问题。先说结论跑起来和跑得好是两码事入门阶段只需要「跑起来」。这份资源推荐的路线是先选小参数版本1.5b 这个量级的模型普通办公本也能运行不需要独立显卡不需要几十 G 内存。为什么小版本能跑因为模型运行时的内存占用大致跟参数规模成正比。参数越多需要装进内存的数值越多。1.5b 意味着十五亿量级的参数和动辄上百亿的版本完全不是一个体量。代价当然有小模型的知识面和推理深度不如大模型复杂问题容易答得浅。但对「第一次跑通」「验证环境是否正常」「体验一下本地对话流程」这些目标来说完全够用。我自己的建议是先用最小能跑的版本走通全流程把每一步都看清楚再考虑换更大的。很多人一上来就挑最大的模型下载几个小时结果内存不够直接崩掉然后得出结论「本地部署太难了」——其实只是第一步选错了尺寸。血泪经验就一句话先求通再求好。3. 三步跑通第一个对话装 Ollama、拉模型、开聊整个流程短得出乎意料只有三步装一个模型管理工具、用它下载模型、运行模型。没有任何编译、没有虚拟环境、没有依赖冲突。这也是为什么它适合作为零基础的第一个动手项目。3.1 第一步装一个叫 Ollama 的「模型管理器」Ollama 的角色可以理解成「模型的管家」它负责下载模型、加载模型、对外提供对话接口。你不需要自己去处理权重格式、不需要写加载代码它把这些都包好了。安装方式就是去官网下载对应系统的安装包双击一路下一步。装完之后不要急着进行下一步先做一件事打开命令行窗口。Windows 上叫 cmd 或 PowerShellmacOS 上叫「终端」。这是个看起来有点陌生的黑框但它在接下来的所有操作里就是你的操作台命令敲进去、回车、等结果仅此而已。# 确认 Ollama 已经装好并能在命令行里被找到 ollama --version # 看看它提供了哪些子命令一共十来个够用很久 ollama --help第一行命令如果打印出一个版本号说明安装成功且环境变量生效了。如果提示「不是内部或外部命令」这类信息先别慌绝大多数情况是装完之后没有重新打开命令行窗口关掉重开一次再试。--help那行会列出所有可用命令其中你最常用的是三个pull负责下载、run负责启动、list负责查看本地已经有哪些模型。注意所有命令都在命令行窗口里输入不要在图形界面的搜索框或者浏览器地址栏里敲。3.2 第二步一条命令把 DeepSeek-R1 拉回本地这一步本质上就是一次下载。命令的结构是「工具 动作 模型名」模型名里带冒号冒号前面是模型系列后面是尺寸版本。# pull 是下载动作deepseek-r1 是模型系列1.5b 是尺寸版本 ollama pull deepseek-r1:1.5b回车之后你会看到进度条一点点往前推。这里几个参数值得说清楚pull这个动作只负责把文件搬到本地不会自动运行deepseek-r1指定的是系列名冒号不能省1.5b是版本标签如果你只写deepseek-r1而不带标签它可能会去拉一个默认的、更大的版本。下载量取决于你选的尺寸1.5b 这个版本对硬盘的压力不大普通机器留出几个 G 的空间就够了。下载过程中如果中断重新执行同一条命令一般会接着往下走不用从头开始。下载完成后可以确认一下本地都有什么# 列出本地已经下载好的所有模型能看到名字、大小、更新时间 ollama list这条命令的输出是你后面的「资产清单」。以后你可能会下载好几个不同尺寸的模型做对比靠它来确认哪个已经在本地、哪个还需要下载。3.3 第三步进入对话看懂它的思考过程现在到了最有成就感的一步。# run 会先检查本地有没有这个模型没有会自动下载然后直接进入对话 ollama run deepseek-r1:1.5b屏幕上会出现一个提示符等你输入。这时候你敲一个真实的问题进去比如让它讲讲 Python 怎么从零开始学回车然后等它输出。第一次看到输出的人往往会愣一下怎么先出来一大段像是自言自语的内容这就是 DeepSeek-R1 这类推理模型的特征。它会先输出一段被think标签包起来的思考过程把问题的拆解、可能的思路、自我检查都写在这里等这个标签闭合之后下面才是正式给你的回答。理解这一点很重要因为它直接影响你对输出的判断。新手最常见的一个误会是「它怎么一直在废话不回答问题」其实它只是在走自己的推理流程。对使用者来说那段思考内容反而是个福利你能看到它是怎么一步步想的哪里绕了弯哪里判断错了比只看最终答案有价值得多。3.4 换个问法再试一次确认它真的在本地跑跑通之后建议做一个验证把网络断开再问一个问题。如果它照样能回答说明整个链路确实是本地的你下载的那份模型正在自己的机器上运行。这个动作看着多余但它能帮你建立一个明确的认知边界——哪些能力来自本地模型哪些来自网络。接着可以多试几种问法感受一下小模型的能力边界。同一个问题问三遍看回答是否一致问一个需要多步推理的数学题看它会不会中途算错问一个明显超出它知识范围的事看它会不会硬答。这几种试探花不了几分钟却能让你对「1.5b 到底能干什么」有个真实的手感而不是停留在参数数字上。踩过这几脚后面选模型尺寸时心里就有数了。4. 名字里的 1.5b 是什么参数、Transformer 与三段式训练能跑起来之后很多人的下一个问题是我到底在跑一个什么东西这一章不深入公式只把几个必须知道的概念讲清楚让你看到模型名字、看到训练流程图时不至于一头雾水。4.1 名字里的 1.5b参数量到底是个什么量1.5b里的 b 是 billion 的缩写意思是十亿。所以 1.5b 就是十五亿7b 是七十亿8b 是八十亿。这个数字指的是模型内部「可调整数值」的总量也就是权重和偏置加起来的个数。你可以把它粗略理解成模型的「脑容量刻度」数字越大能记住的 patterns 越多处理复杂问题的能力通常越强同时对内存和算力的要求也越高。这里有个概念叫扩展规律说的是参数规模、数据规模上去之后模型的能力会跟着提升而且提升是有规律可循的。这条规律解释了一件事为什么现在的大模型动不动就是几百亿上千亿参数——不是因为堆数字好看而是这条路被验证过确实有效。同时它也解释了另一件事为什么小模型也能用。规律是渐进的不是断崖式的1.5b 的模型在很多日常任务上已经能给出像样的回答只是别指望它做出需要深厚知识积累的推理。对入门者来说这个数字的实际意义只有一个它是你选模型时的第一个筛选条件。机器内存有限就选小的先跑通再说。版本标签参数量级入门阶段的直观感受1.5b十五亿启动快、占用小适合第一次跑通和日常轻量问答7b / 8b七十亿到八十亿回答更完整但对内存要求明显上升普通办公本会吃力更大版本百亿以上需要比较充裕的硬件条件入门阶段不建议一上来就选表格里的大致感受是经验层面的判断不同机器差别很大别拿它当硬指标。4.2 Transformer为什么它能把一长段话「看懂」现在主流的大模型底层架构基本都是 Transformer。这个架构是 2017 年被提出来的它替代了更早的循环神经网络那一套做法。要理解它为什么重要可以用读句子来类比。人读一句话的时候并不是一个字一个字平均用力而是会自动把注意力放在关键位置上。比如「小明把书给了小红因为她明天要考试」——你读到「她」的时候会自动回去找「小红」而不是「小明」。这种「回头看哪里重要」的动作就是注意力机制在做的事。Transformer 的核心就是这套自注意力机制模型在处理每个词的时候会同时衡量句子里其他所有词跟它的关联程度然后按关联度加权组合信息。在此之上还有两个配套设计。一个是多头注意力意思是同时开好几组注意力去关注不同类型的关系有的关注语法搭配有的关注指代关系最后汇总起来理解就更立体。另一个是位置编码因为这套结构本身是并行处理的不像逐字读那样自带顺序信息所以要额外把「第几个词」这个信息编进去否则它分不清「狗咬人」和「人咬狗」。这套结构带来的直接好处是并行计算效率高训练时可以同时处理大量文本同时对长距离的依赖捕捉得更好前后隔了很远的两句话之间的关联也能抓住。加上它天然适合堆叠加深、加大正好匹配前面说的扩展规律。所以现在的语言模型几乎都建立在这个架构之上。4.3 三段式训练预训练、监督微调、强化学习一个模型从零到能跟你对话大致走三段路。理解这三段的顺序和各自目标后面看 R1 的训练图就不会迷路。第一段是预训练。做法是拿海量文本喂给模型任务简单到不可思议预测下一个词是什么。给它「今天天气真」让它猜下一个字。猜错了就调参数猜对了也调一点。这个任务看着简陋但要在大规模语料上做好模型必须自己学出语法结构、事实关联、常见表达方式。这一步的产物叫基础模型它知识面很广但不太会「好好回答问题」——你问它一个问题它可能接着给你续写更多问题。第二段是监督微调英文缩写 SFT。这一步用的是人工整理过的高质量问答对形式上就是「问题 - 理想回答」。模型在这些样例上继续训练学着把「续写模式」切换成「回答模式」学会该有的语气、结构、收尾方式。经过这一步模型才像一个能对话的助手。第三段是强化学习。这一步不再直接告诉模型标准答案而是给它一个打分的机制让它自己生成回答好的加分、差的减分逐步往高分方向调整。常见做法是引入人类偏好数据训练一个打分模型再由它来给模型的输出打分这套流程通常叫基于人类反馈的强化学习。它的价值在于处理那些「没有唯一正确答案、但有好坏之分」的场景比如回答是否得体、是否啰嗦、是否符合人的偏好。三段走完一个通用对话模型才算成型。这三段的分工可以这么记预训练给它知识监督微调给它形式强化学习给它分寸。4.4 R1 的两个关键动作跳过微调直接强化学习DeepSeek-R1 特别的地方在于它在这套标准流程上做了调整目标很明确把推理能力拉起来。整个训练有两个值得零基础读者记住的动作。第一个动作是从基础模型出发直接上强化学习中间几乎跳过监督微调。这条路子训出来的中间产物叫 R1-Zero。常规做法是先大量人工标注、再做微调而这里换了个思路不告诉它标准答案长什么样只给奖励信号让它自己在解题过程中摸索出「先分析、再验证、再作答」的长链条思路。结果出乎很多人意料推理表现提升明显甚至在一些基准上逼近更强的模型。但这个中间产物有明显毛病回答时语言混杂遇到不属于推理类的日常问题时表现也一般。因为它太专注于「解题」这一件事了。第二个动作就是修这个毛病。在 R1-Zero 的基础上团队引入了通用强化学习除了正确性还加入帮助性和安全性这两类奖励考量让模型在推理任务和日常任务上都表现得体。最终得到的 R1是这两种能力的合体既有从纯强化学习里长出来的推理链条又有面向广泛任务的适应性。对入门者来说这一段最值得记住的不是流程图细节而是一个观念上的转变原来推理能力不一定要靠人一条条写标准答案教出来给对激励信号模型可以自己练出来。这也解释了为什么你在本地跑 R1 时会先看到一大段思考内容——那是它在走训练时学到的流程。5. 新手最容易翻车的五个地方装不上、跑不动、答得怪前面三步看着顺但实际操作时新手栽跟头的地方很集中。这一章按「现象、原因、解决」三段式列出来遇到问题时对照着看能省掉大量瞎猜的时间。5.1 敲 ollama 提示「不是内部或外部命令」现象安装包双击装完了图标也出现了可一敲命令就报这句或者提示找不到命令。原因命令行窗口是在安装之前打开的它加载的是旧的环境变量看不到新装的程序另一种情况是安装时没有勾选把程序加入系统路径的选项。解决先把所有命令行窗口关掉重新打开一个再试。如果还是不行重启一次电脑让环境变量彻底刷新。仍然不行的话去安装目录里找到可执行文件手动确认它的位置再检查系统的环境变量配置里有没有包含这个目录。这一步看着麻烦但它是后面所有操作的地基必须先通。5.2 下载到一半卡住、报错、反复重来现象进度条长时间不动或者直接中断并抛出一大段错误信息有的人反复重试十几次都没成功。原因最常见的是网络波动导致连接中断其次是硬盘空间不足——模型文件比想象中大尤其是选了较大尺寸的版本。解决先看磁盘剩余空间确保留出足够余量再重试。中断之后重新执行同一条pull命令一般会从断点继续不必从头来过。如果某个尺寸的版本反复失败可以先换成 1.5b 这个更小的版本确认流程能通再回头处理大文件。不要一边下载一边开着大量占用带宽的其他任务。5.3 跑起来很慢风扇狂转回答一个字一个字往外蹦现象命令执行后等了很久才出第一个字输出速度慢到影响阅读机器的风扇声音明显变大。原因模型尺寸超过了机器实际能轻松承载的范围内存不够时系统开始频繁换进换出速度断崖式下降。这不是模型坏了是硬件在硬扛。解决直接换更小的版本run的时候把标签改成1.5b。同时关掉其他占用内存的程序浏览器开几十个标签页是很常见的内存黑洞。如果换了小版本依然很慢那就是这台机器的性能边界到了可以把本地部署当成「验证流程」的手段真正的重活用别的途径解决。5.4 回答里出现一长串思考内容以为程序出了问题现象问了一句话屏幕上刷刷刷出来一大段像是自我碎碎念的文字迟迟不见最终答案有人以为卡死了直接按了中断。原因这是推理模型的正常行为。它在think标签内输出思考过程标签闭合之后才给正式回答。1.5b 这种小尺寸模型有时候思考会绕圈看起来更长。解决耐心等标签闭合。如果确实太长可以在提问时明确要求「直接给结论不要展开推理过程」多数情况下会收敛一些。另外要理解这段思考内容不是垃圾信息它是你观察模型思路的窗口判断它哪里想偏了全靠它。5.5 把它当搜索引擎用结果被一本正经地「编」了现象问它今天发生了什么、某个最新版本号是多少它给出一个格式完整、语气肯定的回答但内容是错的。原因本地模型只依赖训练时见过的数据它没有联网能力不知道你提问之后发生的事。当它不知道答案时会顺着语言概率往下编这在术语上叫幻觉表现就是自信地胡说。解决把它的定位摆正——它是推理和写作的助手不是信息查询工具。涉及事实核查、时效信息、具体数字的问题去查可靠来源不要拿它的输出当依据。这条界限对所有大模型都成立本地部署的模型更是如此。6. 跑通之后学什么从会用到看懂 R1 的训练图解跑通第一个对话之后最容易出现的状态是「然后呢」。命令会敲了模型能聊了但接下来往哪走没有方向。这里给一条我自己走过的路线分三层都是从这份资源的目录结构里延伸出来的。6.1 三条递进的学习路线第一层是把本地这套玩熟。目标是能自己判断该选哪个尺寸、会看ollama list管理本地模型、知道换模型只需改标签、遇到问题能对照现象定位。这一层不需要学任何理论纯靠动手。建议至少完整走三遍安装流程把每一步为什么这么做想明白。第二层是补概念。重点就三个参数规模意味着什么、Transformer 的注意力机制在干什么、预训练和监督微调、强化学习这三段各自解决什么问题。这三个问题想通了你再看任何一篇讲大模型的文章都不会完全懵。这一层不需要推导公式能用自己的话讲给别人听就算过关。第三层是看训练流程。把 R1 那两张训练图拿出来对照着流程一步步读起点是什么基础模型、中间产物 R1-Zero 是怎么来的、为什么要在纯强化学习之后再补一轮通用强化学习。读到能自己画出这条线你对「推理模型为什么推理强」就有了结构性理解而不是记住几句结论。阶段主要动作判断是否过关的标准第一层反复走安装、拉取、运行三步换尺寸、换模型不用查教程第二层搞懂参数、架构、三段训练能用自己的话讲清楚这三件事第三层精读 R1 训练流程图能不看资料复述两个核心创新6.2 一个具体的小练习给你一个能立刻做的练习用同一个问题分别问 1.5b 版本和你机器能承载的最大版本把两次输出并排放着看。观察三件事——回答的完整度差多少、思考过程的长短差多少、同一个问题问三遍答案的一致性差多少。这个对比做下来你对「参数量意味着什么」的理解会比读十篇文章都扎实。练习时注意控制变量同一个问题、同样的措辞、连续跑完不要中间隔太久。对比的结果不用评判谁好谁坏重点是你能说出差在哪里。我第一次学这块的时候就是跳过对比直接去啃训练流程图结果看了一晚上只记住几个名词合上资料什么都说不出来。后来返回来老老实实做了这个对照实验才发现自己对参数规模的理解一直是空的难怪看训练细节像看天书。从那以后我每次学新东西都强制自己先做一个最小可对比的实验再去看理论。希望帮到你先跑起来剩下的路会自己变清楚。本文还有配套的精品资源点击获取
简介一份聚焦DeepSeek大模型本地部署与强化学习训练的全图解PDF面向对大模型感兴趣的初学者、技术爱好者及希望在本地环境应用模型的研发人员旨在以低成本方式解决部署入门与原理理解问题。资源共1个PDF文件约2.64MB以图文结合形式呈现包含操作界面截图与训练流程示意图便于对照阅读。已有2202人学习。内容从本地部署的三个步骤与运行演示切入延伸至LLM基础概念、Transformer架构以及预训练、监督微调、强化学习的基本训练方法并重点拆解DeepSeek-R1的完整训练过程、含R1-Zero的中间推理模型与通用强化学习两项核心创新。读者可借此快速建立从部署实操到推理模型训练逻辑的整体认知适合作为入门参考与前沿技术资料查阅。1. 别急着装环境先弄清「大模型装进自己电脑」是件什么事第一次听说大模型能装在自己电脑上很多人的第一反应是这不是几百亿个参数的东西吗我那台日常办公的笔记本怎么可能带得动更别说还要让它回答问题、写代码、做推理。这个疑问很合理但它建立在一个误解上——以为「装大模型」等于「把整个训练过程复制一遍」。实际上你只是把一份已经训练好的模型权重文件下载下来交给一个专门的运行程序去加载然后向它提问。就像你不用会造发动机也能开车你不需要显卡阵列也能在自己机器上跟一个模型聊天。这份资源要讲的正是这条从零开始的路用 Ollama 把 DeepSeek-R1 拉到本地三条命令进入对话再顺手搞懂它名字里的 1.5b 是什么意思、大模型是怎么被训练出来的、R1 为什么在推理上表现突出。零基础也能跟上装完就能用。2. 为什么要把模型搬回自己电脑三个能立刻感知的好处在动手之前值得花几分钟想清楚一件事云端对话窗口点开就能用为什么还要折腾本地部署如果你的答案是「因为听起来更高级」那大概率会在第二步卡住时放弃。真正撑着你走完这三步的是对好处有具体感知。这里说三个最容易在实际使用中体会到的。2.1 数据不出门隐私这件事只有在本地才真正成立只要你把内容发给远端服务无论对方声明多么严格数据在物理上都离开了你的机器。而本地部署的模型输入和输出只在你自己的硬盘和内存里流动网线拔了它照样能回答。这个差别在处理一些不方便外传的材料时特别明显比如内部文档草稿、还没公开的方案、客户名单的整理归纳。举个具体场景你手上有一份几十页的产品需求草稿想让模型帮你提炼待办项。走云端意味着整份文档上传走本地则只是本机内存里的一次读取。对于个人开发者和小团队这种「不必要的外传」减少一次是一次。这里说的不是绝对安全而是把可控范围收回到自己手上。提示本地部署解决的是「数据不外传」不解决「模型一定说得对」。这两件事经常被新手混在一起。2.2 断网也能用不受外部服务状态影响很多人对本地部署的好感是在某次急着用却连不上服务时建立起来的。云端服务会有维护窗口、会有高峰期排队、会有额度限制这些都是外部因素你控制不了。本地的模型加载好之后只要机器开着它就一直在那儿。对学习来说这一点更关键。新手最怕的是「刚有点感觉环境出问题了」。本地跑通之后你可以反复试、反复问、把同一个问题换十种问法去对比输出不用担心消耗额度也不用担心哪天服务策略调整。这种可以随便折腾的环境是学习阶段最值钱的东西。另外还有一层模型下载到本地之后那份权重文件就在你的硬盘上它不会明天变成另一个版本。你做对比实验时变量是可控的。做技术对比时这条特别重要玄学问题少一半。2.3 电脑配置到底要多高普通机器够不够这是新手问得最多、也最容易被吓退的问题。先说结论跑起来和跑得好是两码事入门阶段只需要「跑起来」。这份资源推荐的路线是先选小参数版本1.5b 这个量级的模型普通办公本也能运行不需要独立显卡不需要几十 G 内存。为什么小版本能跑因为模型运行时的内存占用大致跟参数规模成正比。参数越多需要装进内存的数值越多。1.5b 意味着十五亿量级的参数和动辄上百亿的版本完全不是一个体量。代价当然有小模型的知识面和推理深度不如大模型复杂问题容易答得浅。但对「第一次跑通」「验证环境是否正常」「体验一下本地对话流程」这些目标来说完全够用。我自己的建议是先用最小能跑的版本走通全流程把每一步都看清楚再考虑换更大的。很多人一上来就挑最大的模型下载几个小时结果内存不够直接崩掉然后得出结论「本地部署太难了」——其实只是第一步选错了尺寸。血泪经验就一句话先求通再求好。3. 三步跑通第一个对话装 Ollama、拉模型、开聊整个流程短得出乎意料只有三步装一个模型管理工具、用它下载模型、运行模型。没有任何编译、没有虚拟环境、没有依赖冲突。这也是为什么它适合作为零基础的第一个动手项目。3.1 第一步装一个叫 Ollama 的「模型管理器」Ollama 的角色可以理解成「模型的管家」它负责下载模型、加载模型、对外提供对话接口。你不需要自己去处理权重格式、不需要写加载代码它把这些都包好了。安装方式就是去官网下载对应系统的安装包双击一路下一步。装完之后不要急着进行下一步先做一件事打开命令行窗口。Windows 上叫 cmd 或 PowerShellmacOS 上叫「终端」。这是个看起来有点陌生的黑框但它在接下来的所有操作里就是你的操作台命令敲进去、回车、等结果仅此而已。# 确认 Ollama 已经装好并能在命令行里被找到 ollama --version # 看看它提供了哪些子命令一共十来个够用很久 ollama --help第一行命令如果打印出一个版本号说明安装成功且环境变量生效了。如果提示「不是内部或外部命令」这类信息先别慌绝大多数情况是装完之后没有重新打开命令行窗口关掉重开一次再试。--help那行会列出所有可用命令其中你最常用的是三个pull负责下载、run负责启动、list负责查看本地已经有哪些模型。注意所有命令都在命令行窗口里输入不要在图形界面的搜索框或者浏览器地址栏里敲。3.2 第二步一条命令把 DeepSeek-R1 拉回本地这一步本质上就是一次下载。命令的结构是「工具 动作 模型名」模型名里带冒号冒号前面是模型系列后面是尺寸版本。# pull 是下载动作deepseek-r1 是模型系列1.5b 是尺寸版本 ollama pull deepseek-r1:1.5b回车之后你会看到进度条一点点往前推。这里几个参数值得说清楚pull这个动作只负责把文件搬到本地不会自动运行deepseek-r1指定的是系列名冒号不能省1.5b是版本标签如果你只写deepseek-r1而不带标签它可能会去拉一个默认的、更大的版本。下载量取决于你选的尺寸1.5b 这个版本对硬盘的压力不大普通机器留出几个 G 的空间就够了。下载过程中如果中断重新执行同一条命令一般会接着往下走不用从头开始。下载完成后可以确认一下本地都有什么# 列出本地已经下载好的所有模型能看到名字、大小、更新时间 ollama list这条命令的输出是你后面的「资产清单」。以后你可能会下载好几个不同尺寸的模型做对比靠它来确认哪个已经在本地、哪个还需要下载。3.3 第三步进入对话看懂它的思考过程现在到了最有成就感的一步。# run 会先检查本地有没有这个模型没有会自动下载然后直接进入对话 ollama run deepseek-r1:1.5b屏幕上会出现一个提示符等你输入。这时候你敲一个真实的问题进去比如让它讲讲 Python 怎么从零开始学回车然后等它输出。第一次看到输出的人往往会愣一下怎么先出来一大段像是自言自语的内容这就是 DeepSeek-R1 这类推理模型的特征。它会先输出一段被think标签包起来的思考过程把问题的拆解、可能的思路、自我检查都写在这里等这个标签闭合之后下面才是正式给你的回答。理解这一点很重要因为它直接影响你对输出的判断。新手最常见的一个误会是「它怎么一直在废话不回答问题」其实它只是在走自己的推理流程。对使用者来说那段思考内容反而是个福利你能看到它是怎么一步步想的哪里绕了弯哪里判断错了比只看最终答案有价值得多。3.4 换个问法再试一次确认它真的在本地跑跑通之后建议做一个验证把网络断开再问一个问题。如果它照样能回答说明整个链路确实是本地的你下载的那份模型正在自己的机器上运行。这个动作看着多余但它能帮你建立一个明确的认知边界——哪些能力来自本地模型哪些来自网络。接着可以多试几种问法感受一下小模型的能力边界。同一个问题问三遍看回答是否一致问一个需要多步推理的数学题看它会不会中途算错问一个明显超出它知识范围的事看它会不会硬答。这几种试探花不了几分钟却能让你对「1.5b 到底能干什么」有个真实的手感而不是停留在参数数字上。踩过这几脚后面选模型尺寸时心里就有数了。4. 名字里的 1.5b 是什么参数、Transformer 与三段式训练能跑起来之后很多人的下一个问题是我到底在跑一个什么东西这一章不深入公式只把几个必须知道的概念讲清楚让你看到模型名字、看到训练流程图时不至于一头雾水。4.1 名字里的 1.5b参数量到底是个什么量1.5b里的 b 是 billion 的缩写意思是十亿。所以 1.5b 就是十五亿7b 是七十亿8b 是八十亿。这个数字指的是模型内部「可调整数值」的总量也就是权重和偏置加起来的个数。你可以把它粗略理解成模型的「脑容量刻度」数字越大能记住的 patterns 越多处理复杂问题的能力通常越强同时对内存和算力的要求也越高。这里有个概念叫扩展规律说的是参数规模、数据规模上去之后模型的能力会跟着提升而且提升是有规律可循的。这条规律解释了一件事为什么现在的大模型动不动就是几百亿上千亿参数——不是因为堆数字好看而是这条路被验证过确实有效。同时它也解释了另一件事为什么小模型也能用。规律是渐进的不是断崖式的1.5b 的模型在很多日常任务上已经能给出像样的回答只是别指望它做出需要深厚知识积累的推理。对入门者来说这个数字的实际意义只有一个它是你选模型时的第一个筛选条件。机器内存有限就选小的先跑通再说。版本标签参数量级入门阶段的直观感受1.5b十五亿启动快、占用小适合第一次跑通和日常轻量问答7b / 8b七十亿到八十亿回答更完整但对内存要求明显上升普通办公本会吃力更大版本百亿以上需要比较充裕的硬件条件入门阶段不建议一上来就选表格里的大致感受是经验层面的判断不同机器差别很大别拿它当硬指标。4.2 Transformer为什么它能把一长段话「看懂」现在主流的大模型底层架构基本都是 Transformer。这个架构是 2017 年被提出来的它替代了更早的循环神经网络那一套做法。要理解它为什么重要可以用读句子来类比。人读一句话的时候并不是一个字一个字平均用力而是会自动把注意力放在关键位置上。比如「小明把书给了小红因为她明天要考试」——你读到「她」的时候会自动回去找「小红」而不是「小明」。这种「回头看哪里重要」的动作就是注意力机制在做的事。Transformer 的核心就是这套自注意力机制模型在处理每个词的时候会同时衡量句子里其他所有词跟它的关联程度然后按关联度加权组合信息。在此之上还有两个配套设计。一个是多头注意力意思是同时开好几组注意力去关注不同类型的关系有的关注语法搭配有的关注指代关系最后汇总起来理解就更立体。另一个是位置编码因为这套结构本身是并行处理的不像逐字读那样自带顺序信息所以要额外把「第几个词」这个信息编进去否则它分不清「狗咬人」和「人咬狗」。这套结构带来的直接好处是并行计算效率高训练时可以同时处理大量文本同时对长距离的依赖捕捉得更好前后隔了很远的两句话之间的关联也能抓住。加上它天然适合堆叠加深、加大正好匹配前面说的扩展规律。所以现在的语言模型几乎都建立在这个架构之上。4.3 三段式训练预训练、监督微调、强化学习一个模型从零到能跟你对话大致走三段路。理解这三段的顺序和各自目标后面看 R1 的训练图就不会迷路。第一段是预训练。做法是拿海量文本喂给模型任务简单到不可思议预测下一个词是什么。给它「今天天气真」让它猜下一个字。猜错了就调参数猜对了也调一点。这个任务看着简陋但要在大规模语料上做好模型必须自己学出语法结构、事实关联、常见表达方式。这一步的产物叫基础模型它知识面很广但不太会「好好回答问题」——你问它一个问题它可能接着给你续写更多问题。第二段是监督微调英文缩写 SFT。这一步用的是人工整理过的高质量问答对形式上就是「问题 - 理想回答」。模型在这些样例上继续训练学着把「续写模式」切换成「回答模式」学会该有的语气、结构、收尾方式。经过这一步模型才像一个能对话的助手。第三段是强化学习。这一步不再直接告诉模型标准答案而是给它一个打分的机制让它自己生成回答好的加分、差的减分逐步往高分方向调整。常见做法是引入人类偏好数据训练一个打分模型再由它来给模型的输出打分这套流程通常叫基于人类反馈的强化学习。它的价值在于处理那些「没有唯一正确答案、但有好坏之分」的场景比如回答是否得体、是否啰嗦、是否符合人的偏好。三段走完一个通用对话模型才算成型。这三段的分工可以这么记预训练给它知识监督微调给它形式强化学习给它分寸。4.4 R1 的两个关键动作跳过微调直接强化学习DeepSeek-R1 特别的地方在于它在这套标准流程上做了调整目标很明确把推理能力拉起来。整个训练有两个值得零基础读者记住的动作。第一个动作是从基础模型出发直接上强化学习中间几乎跳过监督微调。这条路子训出来的中间产物叫 R1-Zero。常规做法是先大量人工标注、再做微调而这里换了个思路不告诉它标准答案长什么样只给奖励信号让它自己在解题过程中摸索出「先分析、再验证、再作答」的长链条思路。结果出乎很多人意料推理表现提升明显甚至在一些基准上逼近更强的模型。但这个中间产物有明显毛病回答时语言混杂遇到不属于推理类的日常问题时表现也一般。因为它太专注于「解题」这一件事了。第二个动作就是修这个毛病。在 R1-Zero 的基础上团队引入了通用强化学习除了正确性还加入帮助性和安全性这两类奖励考量让模型在推理任务和日常任务上都表现得体。最终得到的 R1是这两种能力的合体既有从纯强化学习里长出来的推理链条又有面向广泛任务的适应性。对入门者来说这一段最值得记住的不是流程图细节而是一个观念上的转变原来推理能力不一定要靠人一条条写标准答案教出来给对激励信号模型可以自己练出来。这也解释了为什么你在本地跑 R1 时会先看到一大段思考内容——那是它在走训练时学到的流程。5. 新手最容易翻车的五个地方装不上、跑不动、答得怪前面三步看着顺但实际操作时新手栽跟头的地方很集中。这一章按「现象、原因、解决」三段式列出来遇到问题时对照着看能省掉大量瞎猜的时间。5.1 敲 ollama 提示「不是内部或外部命令」现象安装包双击装完了图标也出现了可一敲命令就报这句或者提示找不到命令。原因命令行窗口是在安装之前打开的它加载的是旧的环境变量看不到新装的程序另一种情况是安装时没有勾选把程序加入系统路径的选项。解决先把所有命令行窗口关掉重新打开一个再试。如果还是不行重启一次电脑让环境变量彻底刷新。仍然不行的话去安装目录里找到可执行文件手动确认它的位置再检查系统的环境变量配置里有没有包含这个目录。这一步看着麻烦但它是后面所有操作的地基必须先通。5.2 下载到一半卡住、报错、反复重来现象进度条长时间不动或者直接中断并抛出一大段错误信息有的人反复重试十几次都没成功。原因最常见的是网络波动导致连接中断其次是硬盘空间不足——模型文件比想象中大尤其是选了较大尺寸的版本。解决先看磁盘剩余空间确保留出足够余量再重试。中断之后重新执行同一条pull命令一般会从断点继续不必从头来过。如果某个尺寸的版本反复失败可以先换成 1.5b 这个更小的版本确认流程能通再回头处理大文件。不要一边下载一边开着大量占用带宽的其他任务。5.3 跑起来很慢风扇狂转回答一个字一个字往外蹦现象命令执行后等了很久才出第一个字输出速度慢到影响阅读机器的风扇声音明显变大。原因模型尺寸超过了机器实际能轻松承载的范围内存不够时系统开始频繁换进换出速度断崖式下降。这不是模型坏了是硬件在硬扛。解决直接换更小的版本run的时候把标签改成1.5b。同时关掉其他占用内存的程序浏览器开几十个标签页是很常见的内存黑洞。如果换了小版本依然很慢那就是这台机器的性能边界到了可以把本地部署当成「验证流程」的手段真正的重活用别的途径解决。5.4 回答里出现一长串思考内容以为程序出了问题现象问了一句话屏幕上刷刷刷出来一大段像是自我碎碎念的文字迟迟不见最终答案有人以为卡死了直接按了中断。原因这是推理模型的正常行为。它在think标签内输出思考过程标签闭合之后才给正式回答。1.5b 这种小尺寸模型有时候思考会绕圈看起来更长。解决耐心等标签闭合。如果确实太长可以在提问时明确要求「直接给结论不要展开推理过程」多数情况下会收敛一些。另外要理解这段思考内容不是垃圾信息它是你观察模型思路的窗口判断它哪里想偏了全靠它。5.5 把它当搜索引擎用结果被一本正经地「编」了现象问它今天发生了什么、某个最新版本号是多少它给出一个格式完整、语气肯定的回答但内容是错的。原因本地模型只依赖训练时见过的数据它没有联网能力不知道你提问之后发生的事。当它不知道答案时会顺着语言概率往下编这在术语上叫幻觉表现就是自信地胡说。解决把它的定位摆正——它是推理和写作的助手不是信息查询工具。涉及事实核查、时效信息、具体数字的问题去查可靠来源不要拿它的输出当依据。这条界限对所有大模型都成立本地部署的模型更是如此。6. 跑通之后学什么从会用到看懂 R1 的训练图解跑通第一个对话之后最容易出现的状态是「然后呢」。命令会敲了模型能聊了但接下来往哪走没有方向。这里给一条我自己走过的路线分三层都是从这份资源的目录结构里延伸出来的。6.1 三条递进的学习路线第一层是把本地这套玩熟。目标是能自己判断该选哪个尺寸、会看ollama list管理本地模型、知道换模型只需改标签、遇到问题能对照现象定位。这一层不需要学任何理论纯靠动手。建议至少完整走三遍安装流程把每一步为什么这么做想明白。第二层是补概念。重点就三个参数规模意味着什么、Transformer 的注意力机制在干什么、预训练和监督微调、强化学习这三段各自解决什么问题。这三个问题想通了你再看任何一篇讲大模型的文章都不会完全懵。这一层不需要推导公式能用自己的话讲给别人听就算过关。第三层是看训练流程。把 R1 那两张训练图拿出来对照着流程一步步读起点是什么基础模型、中间产物 R1-Zero 是怎么来的、为什么要在纯强化学习之后再补一轮通用强化学习。读到能自己画出这条线你对「推理模型为什么推理强」就有了结构性理解而不是记住几句结论。阶段主要动作判断是否过关的标准第一层反复走安装、拉取、运行三步换尺寸、换模型不用查教程第二层搞懂参数、架构、三段训练能用自己的话讲清楚这三件事第三层精读 R1 训练流程图能不看资料复述两个核心创新6.2 一个具体的小练习给你一个能立刻做的练习用同一个问题分别问 1.5b 版本和你机器能承载的最大版本把两次输出并排放着看。观察三件事——回答的完整度差多少、思考过程的长短差多少、同一个问题问三遍答案的一致性差多少。这个对比做下来你对「参数量意味着什么」的理解会比读十篇文章都扎实。练习时注意控制变量同一个问题、同样的措辞、连续跑完不要中间隔太久。对比的结果不用评判谁好谁坏重点是你能说出差在哪里。我第一次学这块的时候就是跳过对比直接去啃训练流程图结果看了一晚上只记住几个名词合上资料什么都说不出来。后来返回来老老实实做了这个对照实验才发现自己对参数规模的理解一直是空的难怪看训练细节像看天书。从那以后我每次学新东西都强制自己先做一个最小可对比的实验再去看理论。希望帮到你先跑起来剩下的路会自己变清楚。本文还有配套的精品资源点击获取
平方复杂度无法被常规优化消除｜TaoToken 统一 Key 通道实测)
