简介这份PPT面向高校师生、AI初学者及希望系统理解大模型的教学与科普场景围绕大模型概念、技术原理与应用实践展开兼顾人工智能发展简史、AI思维和AIGC应用。压缩包共1个pptx文件约61.03MB采用可编辑演示格式便于课堂讲授、自学梳理与二次修改。内容覆盖图灵测试、人工智能发展阶段、大模型定义与发展历程、产品与分类、核心特点、行业应用、对工作生活的影响、本地部署及基于大模型的智能体等模块并以厦门大学大数据教学团队的教学实践为背景。已有152人学习适合用作通识课讲义、专题培训材料或大模型入门知识地图帮助读者快速建立从概念到应用的完整认知框架。1. 从「机器能思考吗」说起大模型到底是什么很多人第一次打开对话框输入一句话几秒后屏幕上出来一整段像模像样的话心里冒出的第一个问题往往不是「好用吗」而是「它真懂我在说什么吗」。这个疑惑其实七十多年前就有人提过隔着屏幕聊天如果聊了半天你分不清对面是人是机器那算不算机器也会思考。大模型入门要跨的第一道坎就是把这件事从「玄学」拉回地面——它本质上是一个读了海量文字、学会了「根据上文猜下文」的模型猜得足够准看起来就像懂了。这份资源正是为零基础的人准备的某高校大数据教学团队做的一份大模型科普讲义从人工智能发展简史、人工智能思维讲到大模型的概念、技术、分类、应用、本地部署和智能体后面还接了 AIGC 的动手实践。它不要求你会写代码、懂高等数学适合完全没接触过、想听懂同事嘴里的「参数、训练、幻觉」又想自己亲手试一次的人。2. 零基础为什么也该学三个马上能用上的场景2.1 它替你干的活比你想的具体新手最容易把大模型想成两个极端要么是能替人写论文的「神」要么是只会胡说八道的「玩具」。真实的用法在中间地带而且非常琐碎、非常日常。举三个我自己天天在用的场景。第一是「从零到草稿」写一份活动通知过去要盯着空白页想半天开头现在先把时间、地点、参加对象、注意事项四行信息丢进去让它出三版不同口吻的草稿我挑一版改十分钟能完成过去半小时的事。第二是「把长东西压短」一段两小时的会议记录让它整理成「决议、待办、负责人、截止时间」四栏我再逐条核对。第三是「翻译加解释」一份英文的软件说明不光要中文还要它把里面出现的专业词单独列一张对照表。注意这三件事的共同点——它们都不是「一问一答就完事」而是「我先给出材料它给我一个可修改的半成品」。这就是新手最该建立的预期它不是替你交作业的人是把你从「面对空白」推到「面对草稿」的人。一旦你接受这个定位可用的场景会一下子多出来整理访谈记录、给表格写说明、把一段报错信息翻译成人话、给孩子的作业出五道同类练习题。反过来那些「它天生不擅长」的事也要早点认清精确到小数点的计算、刚刚发生的新闻、你公司内部的资料这些它要么算错要么根本不知道。区分清楚这两类任务比多背十个提示词模板有用得多。2.2 了解、区分、协作新手最该先有的三层心态这份讲义里有一节叫「人工智能思维」讲得挺朴素每个人都应该了解人工智能的基础运行模式具备区分人的能力和机器能力的能力懂得如何和它协作。我觉得这三句话值得新手抄在本子上因为它正好对应了入门阶段的三个心理关口。第一个关口是「了解」。你不需要会推导公式但要知道它在干什么——它是根据上文预测下一个词。这个认知能解释很多现象为什么它有时候编得像真的因为编得「像」正是它的本职工作为什么同一个问题问两次答案不一样因为它是在采样不是在查表为什么它记不住你上周说过的话因为每次对话的上下文是有限的。第二个关口是「区分」。哪些活交给它哪些活必须自己来这条线要早点画出来。我的经验是涉及事实核对的、涉及责任归属的、涉及隐私数据的一律自己把关涉及「把想法变成文字」「把文字变成结构」「把一种格式变成另一种格式」的放心交给它。第三个关口是「协作」。很多人卡在这里觉得「用了它是不是显得我不行」。换个角度想你会用计算器不代表你不会算术你会用搜索不代表你没有知识。把它当成一个随叫随到、知识面很广、但偶尔会自信地胡说八道的实习生你的用法立刻就对了——你会给它清楚的交代也会检查它的产出。2.3 不懂原理也能开始把玄学拆成三件小事我带过的新人里最常见的卡点不是「学不会」而是「不敢开始」。总觉得要先搞懂 Transformer、注意力机制、梯度下降才有资格打开对话框。这个顺序是反的。第一次上手你只需要练三件小事。第一件是「把问题问清楚」别说「帮我写个方案」要说「我要给一个十人的小团队写一份为期两周的培训方案目标是让他们能独立完成基础数据整理输出格式是分周的表格语气正式一点」。第二件是「验证」它给出的每个数字、每个引用、每个「据说过」你都要有办法核对核对不了的就当它没说。第三件是「记录」哪句问法效果好抄下来哪次翻车了记下原因。我第一次用的时候直接问了一个特别笼统的问题得到一段正确但毫无用处的废话当时还以为这东西不过如此后来才发现是我自己的问法太糙。这三件小事不需要任何前置知识今天就能练。而等你练到「知道它什么时候会翻车」再去补原理会发现那些概念突然变得有意义——因为你有了具体的问题要回答。这份讲义的编排其实也符合这个思路先讲历史和思维再讲概念和技术最后落到 AIGC 的实践是「先建立判断力再补知识」的路子。3. 搞懂几个必知概念参数、训练和「大」在哪3.1 参数量到底是什么一间有几万亿个旋钮的调音台「参数」这个词最容易把人劝退。用个类比想象一台巨大的调音台上面密密麻麻全是旋钮每个旋钮控制一点点「说话的风格」——有的管用词正式还是随意有的管句子长还是短有的管遇到问句该不该反问。参数就是这些旋钮的个数。旋钮越多这台机器能表达的细微差别就越多但也越难调、越吃算力。讲义里给了几个能直观感受规模的数字2020 年某海外机构推出的第三代通用模型参数规模达到 1750 亿后续版本据其介绍扩大到十倍以上约 1.8 万亿国内也有机构发布过参数量达 10 万亿量级的模型。这些数字不用背你只要建立一个量级感从「亿」到「万亿」中间差了一万倍。参数多一定更好吗不一定。参数多意味着模型能装下更复杂的规律但也意味着训练成本高、部署门槛高而且在很多具体任务上一个参数小得多、但针对任务调过的模型反而更划算。新手常见的一个误区就是「只看参数排行榜」结果下载了一个自己电脑根本跑不动的版本折腾一下午没跑起来热情直接熄火。3.2 「大」落在三件事上参数、数据、算力讲义的表述很干脆大模型的「大」体现在参数数量庞大、训练数据量大、计算资源需求高三点。这三件事是绑在一起的缺一不可。参数多得有足够多的数据去「喂」否则旋钮再多也调不出有用的东西数据多得有足够的算力去反复计算否则训练一次要跑几年。所以你看到的所有「大模型能力跃升」的新闻背后往往是三件事同时到位模型结构改进了、可用的文本数据变多了、显卡集群堆上去了。对新手来说这三个维度还有一个实际用处帮你判断一个说法靠不靠谱。比如有人告诉你「我们这个小模型什么都比大模型强」你可以顺着这三条问参数规模多少训练数据从哪来、多大量级推理时要多少算力三个问题问下来多半就有答案了。另外要区分两个容易混的词训练和推理。训练是「调旋钮」的过程烧钱、耗时、一次成型推理是「用调好的旋钮干活」也就是你每次提问时发生的事。你日常用到的所有能力都属于推理阶段。这个区分很重要因为很多「本地部署」的讨论说的其实是推理——你下载的是别人已经调好的旋钮不是自己从头调一遍。3.3 四个特点的人话翻译会写、会学、会看上下文、会迁移讲义里总结了大模型四个特点语言生成能力强、学习能力强、上下文理解能力好、可迁移性高。这四个词听起来都很体面翻译成人话是这样「语言生成能力强」意味着它写出来的句子通顺、少有病句甚至能模仿特定语气。这对新手最友好因为你不用再花时间纠结「它写得像不像人话」。「学习能力强」不是指它边聊边学而是指它在训练阶段从海量数据里吸收了大量模式和规律所以能对没见过的提问给出像样的回应。这里要提醒一句你和我聊天时它「记住」的东西通常只存在于这一次对话的上下文里关掉窗口就没了别指望它自动积累。「上下文理解能力好」意味着它能接住你前面说的话。所以提问时把背景一次交代清楚比反复补充要有效得多反过来说如果对话拖得太长、话题跳来跳去它的表现会下降这时候开一个新对话反而更清爽。「可迁移性高」是最实用的一条一次训练出来的能力可以迁移到很多任务上。同一套东西上午帮你改简历下午帮你读代码晚上帮你写文案你不用为每个任务单独准备一个模型。这也是为什么「学一个工具」的性价比很高——你练出来的提问和验证能力在所有任务上都通用。3.4 三个阶段一句话记住从认图到聊天讲义把大模型的发展划成萌芽期、沉淀期和爆发期。你不用记年份记住一句话就够了最早期的神经网络擅长「认东西」比如识别手写数字、识别图片里有没有猫后来模型越做越深、数据越攒越多能力从「认」扩展到「理解语言、生成内容」再往后就是这几年的事模型开始能对话、能写代码、能调用工具。为什么新手要了解这段历史因为它能帮你破除一个幻觉大模型不是突然从石头里蹦出来的它是几十年积累的结果。你今天觉得理所当然的「问一句答一段」背后是无数人在模型结构、数据、算力上一点点推上去的。知道这一点你看待它出错的时候会宽容一些也更愿意去理解它的边界——而不是简单地把它归为「神」或者「骗子」。讲义前面还专门讲了人工智能的发展阶段和未来走向对建立这种「长线视角」很有帮助。如果你只读一章我建议先读这段历史再读概念部分顺序反过来会有点吃力。4. 第一个例子怎么跑十分钟完成你的第一次对话4.1 第一步不是装环境是问一个好问题很多新手的第一个动作是找教程装环境结果卡在依赖冲突上一整晚热情耗尽。我的建议是反着来先用现成的对话产品把「怎么问」练熟再去折腾部署。一个能立刻见效的提问骨架是四段式背景、任务、要求、格式。看一个对照。含糊版是「帮我写个周报」结果多半是一段正确但谁都能写的套话。清楚版是「我在一个十人左右的技术支持小组本周处理了 37 个工单其中 12 个是账号权限问题5 个是数据导出失败。请帮我写一份周报分三部分本周数据、主要问题、下周计划语气平实不要形容词总字数 300 字以内。」差别在哪第二版给了它材料、给了它边界、给了它输出格式。它不需要猜也就不容易猜错。下面这段代码做的事就是把上面这个「四段式」固化成一个模板你以后每次提问只需要替换方括号里的内容。它不是必须用代码你完全可以在对话框里手打但写成模板能强迫你把信息填全。# 一个极简的提问模板把「背景 任务 要求 格式」拆成四个槽位 template 【背景】{背景} 【任务】{任务} 【要求】{要求} 【格式】{格式} prompt template.format( 背景我在一个十人左右的技术支持小组本周处理37个工单12个账号权限问题5个数据导出失败, 任务写一份本周周报, 要求语气平实不用形容词不写空话, 格式分三部分本周数据、主要问题、下周计划总字数300字以内, ) print(prompt) # 打印出来再整段粘贴到对话框里template里的四个花括号是占位符format会把它们替换成你填的内容。这么写的好处是只要有一栏你填不出来就说明你自己还没想清楚要什么这时候先别问模型先想清楚。提示第一周不要追求「一次问对」。同一个问题连问三遍、每次只改一个地方你进步的速度会比看十篇教程快。4.2 让模型在你自己的机器上说话一次接口调用把对话练熟之后很多人会想「能不能在自己的程序里用」。这就涉及本地部署和接口调用。讲义的「本地部署大模型」一节讲的就是这件事思路是先在自己机器上跑起一个模型服务然后你的程序通过一个地址去问它就像问一个跑在本机上的小助手。下面是最小可用的调用示例。不同工具返回的 JSON 结构不完全一样跑之前先看一眼服务方给出的接口说明把字段名对一下。import requests # 本地模型服务的地址换成你自己部署后控制台里显示的那个 URL http://127.0.0.1:8000/v1/chat payload { messages: [ # system 是「人设」告诉它扮演什么角色、守什么规矩 {role: system, content: 你是一位耐心的科普讲师回答不超过200字。}, # user 是你的问题 {role: user, content: 用生活化的比喻解释大模型的参数是什么。}, ], temperature: 0.7, # 随机程度调小更稳、更一致调大更发散 top_p: 0.9, # 候选范围调小更保守调大更敢说 max_tokens: 300, # 最多生成多少内容防止它长篇大论 } resp requests.post(URL, jsonpayload, timeout120) data resp.json() # 字段名以实际返回为准这里取最常见的一种 print(data[choices][0][message][content])三段代码分别对应三件事URL是你要问谁payload是你要问什么、用什么规矩问最后两行是把回答取出来打印。timeout120是给足时间——本地模型第一次加载会慢设短了会直接报超时。跑不通的时候按这个顺序排查先确认服务是不是真的起来了用浏览器打开那个地址看看有没有响应再看返回的 JSON 里到底有没有你取的那个字段把print(data)打出来看一眼最后才怀疑模型本身。新手十次里有八次是卡在第一步。4.3 三个参数改一改输出立刻不一样上面代码里那三个参数是新手最值得亲手拧一遍的。用同一句提问只改一个参数各跑三次你对「玄学」的体感会立刻具体起来。参数管什么调小会怎样调大会怎样新手建议temperature采样的随机程度回答更固定、更保守同样问题多次结果接近更发散、更有创意也更容易跑题从 0.7 起步写文案调到 1.0做数据整理调到 0.2top_p从多大的候选范围里挑词用词更常见、更保险用词更少见、更意外一般保持 0.9除非你明确想要「不一样的说法」max_tokens输出长度的上限容易说到一半被截断更完整但也更慢、更容易啰嗦按任务给摘要 200方案 800怎么用这张表举个例子你要它把一段会议记录整理成待办清单这种任务最怕「自由发挥」把 temperature 调到 0.2同一段材料跑两次结果基本一致你才好核对。反过来你要它给活动想十个口号temperature 调到 1.0跑三次能拿到三十个候选再自己挑。注意一个坑max_tokens不是「字数」它算的是模型内部的切分单位中文大致一个字到一个词。设得太小回答会在句子中间断掉看起来像模型坏了其实是你把上限压太低了。4.4 把每次对话存成一个小实验本这是我最想推荐给新手的习惯成本极低收益极高。准备一张表四列我问了什么、我改了什么、结果怎么样、下次怎么改。一次实验只改一个变量比如这次只改 temperature下次只改提示词里的格式要求。日期提问要点改动结果评价下次调整第 1 天周报生成初始版本内容空泛补上具体数字第 2 天周报生成加了 37 个工单等数据明显具体再压字数到 300第 3 天周报生成temperature 0.7 改为 0.2更一致便于核对保持为什么这件事重要因为大模型的表现受提问影响极大而人的记忆很不靠谱你三天后绝对想不起「上次那个效果好的问法是怎么写的」。有了这张表你会在两周内积累出一套只属于你自己的、针对你手头任务的最佳问法比任何通用模板都好用。顺带说一句这张表也是你判断「要不要继续学」的依据。如果两周下来表里全是「没用」那可能不是你的问题而是你的任务类型本来就不适合——早点知道也是收获。5. 新手最容易踩的坑四个现象、四个原因、四个解法5.1 把它当搜索引擎用现象、原因、解决现象问一个具体的事实性问题比如某个政策是哪一年出台的、某个软件的某个功能在哪个版本加入的它答得斩钉截铁还带着细节你照抄交上去被指出来是错的。原因它做的事是根据上文预测下文不是去数据库里检索条目。当它不知道确切答案时最「像答案」的表述反而最容易生成——这就是所谓的幻觉。它的自信程度和正确程度之间没有必然关系这一点和搜索引擎完全不同搜索引擎至少会给你一个可以点开的来源。解决第一事实性问题一定要求它给出处给不出就自己查第二把你的材料贴给它让它「只根据下面这段文字回答」把开放问答变成阅读理解第三涉及数字、日期、人名、条款的一律逐字核对。我带新人时有个硬规矩凡是它给的、你要拿去用的具体数字必须自己找到第二个来源。5.2 一次问一大段结果像模板现象、原因、解决现象把需求写了两百字气势很足结果它返回一段四平八稳、放到哪都能用的废话你还不好意思说它错。原因任务边界不清。你给了它一个「大方向」它只能沿着最常见的那条路走于是输出必然平庸。另一个常见原因是任务里塞了太多目标既要专业又要亲切既要有数据又不要太多细节模型没法同时满足互相冲突的要求。解决拆。把一个「大任务」拆成三到四个有先后顺序的小任务每一步只要一个明确产出。比如写方案先让它列提纲你改提纲再按提纲逐节写你逐节改最后让它统一语气。看起来麻烦实际上因为每步都能立刻看出对不对反而更省时间。另外一个技巧是给它一个「输出格式」的硬约束比如「用表格三列每列不超过 15 字」格式一收紧空话就装不进去了。5.3 本地部署跑不动就放弃现象、原因、解决现象兴致勃勃下载了一个模型命令行一回车进度条走到一半报错退出或者跑起来了但回答一个字一个字往外蹦慢到没法用。原因多半是把「参数量」当成了唯一指标忽略了自己机器的实际情况。参数越多的模型加载时占的内存和显存越多而网络上同一个模型往往有好几个「压缩版本」体积差别好几倍。新手常常直接挑了最大的那个。解决先用小参数、压缩过的版本跑通一遍完整流程确认服务能起来、接口能调通、回答能出来再考虑换大模型。判断标准很简单如果你的机器在加载阶段就被系统终止那基本就是资源不够别怀疑代码。另外第一次加载慢是正常的不要急着按 CtrlC给它足够的时间。注意跑通的意义远大于跑大。一个能稳定回答的小模型比一个装了三天没跑起来的大模型有价值得多。5.4 一上来就追「全自动智能体」现象、原因、解决现象看到「智能体」这个词觉得很酷直接上手搭一个多步骤的自动流程结果它跑到第三步就停了或者中间某一步理解偏了后面全跟着错你还很难定位是哪一步出的问题。原因智能体本质上是让模型连续做多次判断、调用多个工具。单步出错率是百分之几串上五步整体成功率就掉得很难看。而新手往往一次性把整条链路搭完中间没有任何检查点。解决从「单步 人工确认」开始。每一步做完你自己看一眼结果对不对再手动触发下一步。等这条链路你手动跑顺了十次知道它会在哪一步翻车再考虑把它连起来。另外每一步都要能单独重跑不然出了问题你只能从头再来特别消耗耐心。还有一种更隐蔽的坑把不该自动化的步骤自动化了。涉及对外发送、涉及修改数据、涉及花钱的动作加一道人工确认成本极低能省下很多后悔药。6. 下一步学什么一条三周能走完的入门路径很多人在跑通第一个例子之后就卡住了知道能用了但不知道往下学什么于是开始漫无目的地刷视频刷了两周还在原地。我给新手的建议是给自己设一个三周的窄目标不求全只求「能独立完成一件小事」。阶段时间具体做什么过关标准第一周每天 30 分钟只练提问拿你手头真实的工作任务用「背景任务要求格式」四段式各写一遍记录效果能稳定产出「稍加修改就能用」的草稿第二周每天 40 分钟补概念读讲义的「人工智能发展简史」「人工智能思维」「大模型的概念与特点」三部分读到能给别人讲明白能用自己的话解释参数、训练、推理、幻觉四个词第三周每天 40 分钟动手按讲义里的实践部分跑一次接口调用改两轮参数做一份自己的实验记录有一张至少 10 行的实验表能说清哪次改动带来了什么变化这个路径的关键是每一周都有可验收的产出而不是「看完某个视频」。第一周不需要任何技术基础第二周不需要写代码第三周才碰环境。顺序反了最容易在第一周就放弃。再说一个具体技巧给每次对话留「回放」。什么意思就是你每次提问把完整的提问内容、参数、回答原样存到一个文件夹里按日期命名。这件事看起来很笨但它能解决新手最大的痛点——「上次那个效果挺好的问法我想不起来了」。我自己的习惯是每次实验存一个纯文本文件里面就四行我本来想干什么、我怎么问的、它怎么答的、我判断哪里好哪里不好。三个月后回头翻你会发现自己踩过的坑基本不重样这比任何教程都贴近你的实际工作。如果你想再往前走一步讲义的目录里已经给了方向往应用侧走去看 AIGC 的具体实践把写作、翻译、总结、出图这些任务一个个拆开练往技术侧走去看大模型分类、本地部署和智能体理解不同规模模型的取舍。两条路都行但不要同时开两条先选一条走满一个月。最后说个我自己的教训。我刚开始学的时候最大的毛病是「收藏了就等于学了」——看到好文章先存起来看到好教程先下载硬盘里堆了几十个 G实际动手不到一小时。后来我给自己定了一条规矩每存一份资料当天必须用它做一件小事做不出来就不许存第二份。从那以后我每次拿到新资料第一件事都是先跑一个最小例子跑通了才谈得上读懂。这条规矩帮我省下的时间比任何技巧都多。希望帮到你。本文还有配套的精品资源点击获取
简介这份PPT面向高校师生、AI初学者及希望系统理解大模型的教学与科普场景围绕大模型概念、技术原理与应用实践展开兼顾人工智能发展简史、AI思维和AIGC应用。压缩包共1个pptx文件约61.03MB采用可编辑演示格式便于课堂讲授、自学梳理与二次修改。内容覆盖图灵测试、人工智能发展阶段、大模型定义与发展历程、产品与分类、核心特点、行业应用、对工作生活的影响、本地部署及基于大模型的智能体等模块并以厦门大学大数据教学团队的教学实践为背景。已有152人学习适合用作通识课讲义、专题培训材料或大模型入门知识地图帮助读者快速建立从概念到应用的完整认知框架。1. 从「机器能思考吗」说起大模型到底是什么很多人第一次打开对话框输入一句话几秒后屏幕上出来一整段像模像样的话心里冒出的第一个问题往往不是「好用吗」而是「它真懂我在说什么吗」。这个疑惑其实七十多年前就有人提过隔着屏幕聊天如果聊了半天你分不清对面是人是机器那算不算机器也会思考。大模型入门要跨的第一道坎就是把这件事从「玄学」拉回地面——它本质上是一个读了海量文字、学会了「根据上文猜下文」的模型猜得足够准看起来就像懂了。这份资源正是为零基础的人准备的某高校大数据教学团队做的一份大模型科普讲义从人工智能发展简史、人工智能思维讲到大模型的概念、技术、分类、应用、本地部署和智能体后面还接了 AIGC 的动手实践。它不要求你会写代码、懂高等数学适合完全没接触过、想听懂同事嘴里的「参数、训练、幻觉」又想自己亲手试一次的人。2. 零基础为什么也该学三个马上能用上的场景2.1 它替你干的活比你想的具体新手最容易把大模型想成两个极端要么是能替人写论文的「神」要么是只会胡说八道的「玩具」。真实的用法在中间地带而且非常琐碎、非常日常。举三个我自己天天在用的场景。第一是「从零到草稿」写一份活动通知过去要盯着空白页想半天开头现在先把时间、地点、参加对象、注意事项四行信息丢进去让它出三版不同口吻的草稿我挑一版改十分钟能完成过去半小时的事。第二是「把长东西压短」一段两小时的会议记录让它整理成「决议、待办、负责人、截止时间」四栏我再逐条核对。第三是「翻译加解释」一份英文的软件说明不光要中文还要它把里面出现的专业词单独列一张对照表。注意这三件事的共同点——它们都不是「一问一答就完事」而是「我先给出材料它给我一个可修改的半成品」。这就是新手最该建立的预期它不是替你交作业的人是把你从「面对空白」推到「面对草稿」的人。一旦你接受这个定位可用的场景会一下子多出来整理访谈记录、给表格写说明、把一段报错信息翻译成人话、给孩子的作业出五道同类练习题。反过来那些「它天生不擅长」的事也要早点认清精确到小数点的计算、刚刚发生的新闻、你公司内部的资料这些它要么算错要么根本不知道。区分清楚这两类任务比多背十个提示词模板有用得多。2.2 了解、区分、协作新手最该先有的三层心态这份讲义里有一节叫「人工智能思维」讲得挺朴素每个人都应该了解人工智能的基础运行模式具备区分人的能力和机器能力的能力懂得如何和它协作。我觉得这三句话值得新手抄在本子上因为它正好对应了入门阶段的三个心理关口。第一个关口是「了解」。你不需要会推导公式但要知道它在干什么——它是根据上文预测下一个词。这个认知能解释很多现象为什么它有时候编得像真的因为编得「像」正是它的本职工作为什么同一个问题问两次答案不一样因为它是在采样不是在查表为什么它记不住你上周说过的话因为每次对话的上下文是有限的。第二个关口是「区分」。哪些活交给它哪些活必须自己来这条线要早点画出来。我的经验是涉及事实核对的、涉及责任归属的、涉及隐私数据的一律自己把关涉及「把想法变成文字」「把文字变成结构」「把一种格式变成另一种格式」的放心交给它。第三个关口是「协作」。很多人卡在这里觉得「用了它是不是显得我不行」。换个角度想你会用计算器不代表你不会算术你会用搜索不代表你没有知识。把它当成一个随叫随到、知识面很广、但偶尔会自信地胡说八道的实习生你的用法立刻就对了——你会给它清楚的交代也会检查它的产出。2.3 不懂原理也能开始把玄学拆成三件小事我带过的新人里最常见的卡点不是「学不会」而是「不敢开始」。总觉得要先搞懂 Transformer、注意力机制、梯度下降才有资格打开对话框。这个顺序是反的。第一次上手你只需要练三件小事。第一件是「把问题问清楚」别说「帮我写个方案」要说「我要给一个十人的小团队写一份为期两周的培训方案目标是让他们能独立完成基础数据整理输出格式是分周的表格语气正式一点」。第二件是「验证」它给出的每个数字、每个引用、每个「据说过」你都要有办法核对核对不了的就当它没说。第三件是「记录」哪句问法效果好抄下来哪次翻车了记下原因。我第一次用的时候直接问了一个特别笼统的问题得到一段正确但毫无用处的废话当时还以为这东西不过如此后来才发现是我自己的问法太糙。这三件小事不需要任何前置知识今天就能练。而等你练到「知道它什么时候会翻车」再去补原理会发现那些概念突然变得有意义——因为你有了具体的问题要回答。这份讲义的编排其实也符合这个思路先讲历史和思维再讲概念和技术最后落到 AIGC 的实践是「先建立判断力再补知识」的路子。3. 搞懂几个必知概念参数、训练和「大」在哪3.1 参数量到底是什么一间有几万亿个旋钮的调音台「参数」这个词最容易把人劝退。用个类比想象一台巨大的调音台上面密密麻麻全是旋钮每个旋钮控制一点点「说话的风格」——有的管用词正式还是随意有的管句子长还是短有的管遇到问句该不该反问。参数就是这些旋钮的个数。旋钮越多这台机器能表达的细微差别就越多但也越难调、越吃算力。讲义里给了几个能直观感受规模的数字2020 年某海外机构推出的第三代通用模型参数规模达到 1750 亿后续版本据其介绍扩大到十倍以上约 1.8 万亿国内也有机构发布过参数量达 10 万亿量级的模型。这些数字不用背你只要建立一个量级感从「亿」到「万亿」中间差了一万倍。参数多一定更好吗不一定。参数多意味着模型能装下更复杂的规律但也意味着训练成本高、部署门槛高而且在很多具体任务上一个参数小得多、但针对任务调过的模型反而更划算。新手常见的一个误区就是「只看参数排行榜」结果下载了一个自己电脑根本跑不动的版本折腾一下午没跑起来热情直接熄火。3.2 「大」落在三件事上参数、数据、算力讲义的表述很干脆大模型的「大」体现在参数数量庞大、训练数据量大、计算资源需求高三点。这三件事是绑在一起的缺一不可。参数多得有足够多的数据去「喂」否则旋钮再多也调不出有用的东西数据多得有足够的算力去反复计算否则训练一次要跑几年。所以你看到的所有「大模型能力跃升」的新闻背后往往是三件事同时到位模型结构改进了、可用的文本数据变多了、显卡集群堆上去了。对新手来说这三个维度还有一个实际用处帮你判断一个说法靠不靠谱。比如有人告诉你「我们这个小模型什么都比大模型强」你可以顺着这三条问参数规模多少训练数据从哪来、多大量级推理时要多少算力三个问题问下来多半就有答案了。另外要区分两个容易混的词训练和推理。训练是「调旋钮」的过程烧钱、耗时、一次成型推理是「用调好的旋钮干活」也就是你每次提问时发生的事。你日常用到的所有能力都属于推理阶段。这个区分很重要因为很多「本地部署」的讨论说的其实是推理——你下载的是别人已经调好的旋钮不是自己从头调一遍。3.3 四个特点的人话翻译会写、会学、会看上下文、会迁移讲义里总结了大模型四个特点语言生成能力强、学习能力强、上下文理解能力好、可迁移性高。这四个词听起来都很体面翻译成人话是这样「语言生成能力强」意味着它写出来的句子通顺、少有病句甚至能模仿特定语气。这对新手最友好因为你不用再花时间纠结「它写得像不像人话」。「学习能力强」不是指它边聊边学而是指它在训练阶段从海量数据里吸收了大量模式和规律所以能对没见过的提问给出像样的回应。这里要提醒一句你和我聊天时它「记住」的东西通常只存在于这一次对话的上下文里关掉窗口就没了别指望它自动积累。「上下文理解能力好」意味着它能接住你前面说的话。所以提问时把背景一次交代清楚比反复补充要有效得多反过来说如果对话拖得太长、话题跳来跳去它的表现会下降这时候开一个新对话反而更清爽。「可迁移性高」是最实用的一条一次训练出来的能力可以迁移到很多任务上。同一套东西上午帮你改简历下午帮你读代码晚上帮你写文案你不用为每个任务单独准备一个模型。这也是为什么「学一个工具」的性价比很高——你练出来的提问和验证能力在所有任务上都通用。3.4 三个阶段一句话记住从认图到聊天讲义把大模型的发展划成萌芽期、沉淀期和爆发期。你不用记年份记住一句话就够了最早期的神经网络擅长「认东西」比如识别手写数字、识别图片里有没有猫后来模型越做越深、数据越攒越多能力从「认」扩展到「理解语言、生成内容」再往后就是这几年的事模型开始能对话、能写代码、能调用工具。为什么新手要了解这段历史因为它能帮你破除一个幻觉大模型不是突然从石头里蹦出来的它是几十年积累的结果。你今天觉得理所当然的「问一句答一段」背后是无数人在模型结构、数据、算力上一点点推上去的。知道这一点你看待它出错的时候会宽容一些也更愿意去理解它的边界——而不是简单地把它归为「神」或者「骗子」。讲义前面还专门讲了人工智能的发展阶段和未来走向对建立这种「长线视角」很有帮助。如果你只读一章我建议先读这段历史再读概念部分顺序反过来会有点吃力。4. 第一个例子怎么跑十分钟完成你的第一次对话4.1 第一步不是装环境是问一个好问题很多新手的第一个动作是找教程装环境结果卡在依赖冲突上一整晚热情耗尽。我的建议是反着来先用现成的对话产品把「怎么问」练熟再去折腾部署。一个能立刻见效的提问骨架是四段式背景、任务、要求、格式。看一个对照。含糊版是「帮我写个周报」结果多半是一段正确但谁都能写的套话。清楚版是「我在一个十人左右的技术支持小组本周处理了 37 个工单其中 12 个是账号权限问题5 个是数据导出失败。请帮我写一份周报分三部分本周数据、主要问题、下周计划语气平实不要形容词总字数 300 字以内。」差别在哪第二版给了它材料、给了它边界、给了它输出格式。它不需要猜也就不容易猜错。下面这段代码做的事就是把上面这个「四段式」固化成一个模板你以后每次提问只需要替换方括号里的内容。它不是必须用代码你完全可以在对话框里手打但写成模板能强迫你把信息填全。# 一个极简的提问模板把「背景 任务 要求 格式」拆成四个槽位 template 【背景】{背景} 【任务】{任务} 【要求】{要求} 【格式】{格式} prompt template.format( 背景我在一个十人左右的技术支持小组本周处理37个工单12个账号权限问题5个数据导出失败, 任务写一份本周周报, 要求语气平实不用形容词不写空话, 格式分三部分本周数据、主要问题、下周计划总字数300字以内, ) print(prompt) # 打印出来再整段粘贴到对话框里template里的四个花括号是占位符format会把它们替换成你填的内容。这么写的好处是只要有一栏你填不出来就说明你自己还没想清楚要什么这时候先别问模型先想清楚。提示第一周不要追求「一次问对」。同一个问题连问三遍、每次只改一个地方你进步的速度会比看十篇教程快。4.2 让模型在你自己的机器上说话一次接口调用把对话练熟之后很多人会想「能不能在自己的程序里用」。这就涉及本地部署和接口调用。讲义的「本地部署大模型」一节讲的就是这件事思路是先在自己机器上跑起一个模型服务然后你的程序通过一个地址去问它就像问一个跑在本机上的小助手。下面是最小可用的调用示例。不同工具返回的 JSON 结构不完全一样跑之前先看一眼服务方给出的接口说明把字段名对一下。import requests # 本地模型服务的地址换成你自己部署后控制台里显示的那个 URL http://127.0.0.1:8000/v1/chat payload { messages: [ # system 是「人设」告诉它扮演什么角色、守什么规矩 {role: system, content: 你是一位耐心的科普讲师回答不超过200字。}, # user 是你的问题 {role: user, content: 用生活化的比喻解释大模型的参数是什么。}, ], temperature: 0.7, # 随机程度调小更稳、更一致调大更发散 top_p: 0.9, # 候选范围调小更保守调大更敢说 max_tokens: 300, # 最多生成多少内容防止它长篇大论 } resp requests.post(URL, jsonpayload, timeout120) data resp.json() # 字段名以实际返回为准这里取最常见的一种 print(data[choices][0][message][content])三段代码分别对应三件事URL是你要问谁payload是你要问什么、用什么规矩问最后两行是把回答取出来打印。timeout120是给足时间——本地模型第一次加载会慢设短了会直接报超时。跑不通的时候按这个顺序排查先确认服务是不是真的起来了用浏览器打开那个地址看看有没有响应再看返回的 JSON 里到底有没有你取的那个字段把print(data)打出来看一眼最后才怀疑模型本身。新手十次里有八次是卡在第一步。4.3 三个参数改一改输出立刻不一样上面代码里那三个参数是新手最值得亲手拧一遍的。用同一句提问只改一个参数各跑三次你对「玄学」的体感会立刻具体起来。参数管什么调小会怎样调大会怎样新手建议temperature采样的随机程度回答更固定、更保守同样问题多次结果接近更发散、更有创意也更容易跑题从 0.7 起步写文案调到 1.0做数据整理调到 0.2top_p从多大的候选范围里挑词用词更常见、更保险用词更少见、更意外一般保持 0.9除非你明确想要「不一样的说法」max_tokens输出长度的上限容易说到一半被截断更完整但也更慢、更容易啰嗦按任务给摘要 200方案 800怎么用这张表举个例子你要它把一段会议记录整理成待办清单这种任务最怕「自由发挥」把 temperature 调到 0.2同一段材料跑两次结果基本一致你才好核对。反过来你要它给活动想十个口号temperature 调到 1.0跑三次能拿到三十个候选再自己挑。注意一个坑max_tokens不是「字数」它算的是模型内部的切分单位中文大致一个字到一个词。设得太小回答会在句子中间断掉看起来像模型坏了其实是你把上限压太低了。4.4 把每次对话存成一个小实验本这是我最想推荐给新手的习惯成本极低收益极高。准备一张表四列我问了什么、我改了什么、结果怎么样、下次怎么改。一次实验只改一个变量比如这次只改 temperature下次只改提示词里的格式要求。日期提问要点改动结果评价下次调整第 1 天周报生成初始版本内容空泛补上具体数字第 2 天周报生成加了 37 个工单等数据明显具体再压字数到 300第 3 天周报生成temperature 0.7 改为 0.2更一致便于核对保持为什么这件事重要因为大模型的表现受提问影响极大而人的记忆很不靠谱你三天后绝对想不起「上次那个效果好的问法是怎么写的」。有了这张表你会在两周内积累出一套只属于你自己的、针对你手头任务的最佳问法比任何通用模板都好用。顺带说一句这张表也是你判断「要不要继续学」的依据。如果两周下来表里全是「没用」那可能不是你的问题而是你的任务类型本来就不适合——早点知道也是收获。5. 新手最容易踩的坑四个现象、四个原因、四个解法5.1 把它当搜索引擎用现象、原因、解决现象问一个具体的事实性问题比如某个政策是哪一年出台的、某个软件的某个功能在哪个版本加入的它答得斩钉截铁还带着细节你照抄交上去被指出来是错的。原因它做的事是根据上文预测下文不是去数据库里检索条目。当它不知道确切答案时最「像答案」的表述反而最容易生成——这就是所谓的幻觉。它的自信程度和正确程度之间没有必然关系这一点和搜索引擎完全不同搜索引擎至少会给你一个可以点开的来源。解决第一事实性问题一定要求它给出处给不出就自己查第二把你的材料贴给它让它「只根据下面这段文字回答」把开放问答变成阅读理解第三涉及数字、日期、人名、条款的一律逐字核对。我带新人时有个硬规矩凡是它给的、你要拿去用的具体数字必须自己找到第二个来源。5.2 一次问一大段结果像模板现象、原因、解决现象把需求写了两百字气势很足结果它返回一段四平八稳、放到哪都能用的废话你还不好意思说它错。原因任务边界不清。你给了它一个「大方向」它只能沿着最常见的那条路走于是输出必然平庸。另一个常见原因是任务里塞了太多目标既要专业又要亲切既要有数据又不要太多细节模型没法同时满足互相冲突的要求。解决拆。把一个「大任务」拆成三到四个有先后顺序的小任务每一步只要一个明确产出。比如写方案先让它列提纲你改提纲再按提纲逐节写你逐节改最后让它统一语气。看起来麻烦实际上因为每步都能立刻看出对不对反而更省时间。另外一个技巧是给它一个「输出格式」的硬约束比如「用表格三列每列不超过 15 字」格式一收紧空话就装不进去了。5.3 本地部署跑不动就放弃现象、原因、解决现象兴致勃勃下载了一个模型命令行一回车进度条走到一半报错退出或者跑起来了但回答一个字一个字往外蹦慢到没法用。原因多半是把「参数量」当成了唯一指标忽略了自己机器的实际情况。参数越多的模型加载时占的内存和显存越多而网络上同一个模型往往有好几个「压缩版本」体积差别好几倍。新手常常直接挑了最大的那个。解决先用小参数、压缩过的版本跑通一遍完整流程确认服务能起来、接口能调通、回答能出来再考虑换大模型。判断标准很简单如果你的机器在加载阶段就被系统终止那基本就是资源不够别怀疑代码。另外第一次加载慢是正常的不要急着按 CtrlC给它足够的时间。注意跑通的意义远大于跑大。一个能稳定回答的小模型比一个装了三天没跑起来的大模型有价值得多。5.4 一上来就追「全自动智能体」现象、原因、解决现象看到「智能体」这个词觉得很酷直接上手搭一个多步骤的自动流程结果它跑到第三步就停了或者中间某一步理解偏了后面全跟着错你还很难定位是哪一步出的问题。原因智能体本质上是让模型连续做多次判断、调用多个工具。单步出错率是百分之几串上五步整体成功率就掉得很难看。而新手往往一次性把整条链路搭完中间没有任何检查点。解决从「单步 人工确认」开始。每一步做完你自己看一眼结果对不对再手动触发下一步。等这条链路你手动跑顺了十次知道它会在哪一步翻车再考虑把它连起来。另外每一步都要能单独重跑不然出了问题你只能从头再来特别消耗耐心。还有一种更隐蔽的坑把不该自动化的步骤自动化了。涉及对外发送、涉及修改数据、涉及花钱的动作加一道人工确认成本极低能省下很多后悔药。6. 下一步学什么一条三周能走完的入门路径很多人在跑通第一个例子之后就卡住了知道能用了但不知道往下学什么于是开始漫无目的地刷视频刷了两周还在原地。我给新手的建议是给自己设一个三周的窄目标不求全只求「能独立完成一件小事」。阶段时间具体做什么过关标准第一周每天 30 分钟只练提问拿你手头真实的工作任务用「背景任务要求格式」四段式各写一遍记录效果能稳定产出「稍加修改就能用」的草稿第二周每天 40 分钟补概念读讲义的「人工智能发展简史」「人工智能思维」「大模型的概念与特点」三部分读到能给别人讲明白能用自己的话解释参数、训练、推理、幻觉四个词第三周每天 40 分钟动手按讲义里的实践部分跑一次接口调用改两轮参数做一份自己的实验记录有一张至少 10 行的实验表能说清哪次改动带来了什么变化这个路径的关键是每一周都有可验收的产出而不是「看完某个视频」。第一周不需要任何技术基础第二周不需要写代码第三周才碰环境。顺序反了最容易在第一周就放弃。再说一个具体技巧给每次对话留「回放」。什么意思就是你每次提问把完整的提问内容、参数、回答原样存到一个文件夹里按日期命名。这件事看起来很笨但它能解决新手最大的痛点——「上次那个效果挺好的问法我想不起来了」。我自己的习惯是每次实验存一个纯文本文件里面就四行我本来想干什么、我怎么问的、它怎么答的、我判断哪里好哪里不好。三个月后回头翻你会发现自己踩过的坑基本不重样这比任何教程都贴近你的实际工作。如果你想再往前走一步讲义的目录里已经给了方向往应用侧走去看 AIGC 的具体实践把写作、翻译、总结、出图这些任务一个个拆开练往技术侧走去看大模型分类、本地部署和智能体理解不同规模模型的取舍。两条路都行但不要同时开两条先选一条走满一个月。最后说个我自己的教训。我刚开始学的时候最大的毛病是「收藏了就等于学了」——看到好文章先存起来看到好教程先下载硬盘里堆了几十个 G实际动手不到一小时。后来我给自己定了一条规矩每存一份资料当天必须用它做一件小事做不出来就不许存第二份。从那以后我每次拿到新资料第一件事都是先跑一个最小例子跑通了才谈得上读懂。这条规矩帮我省下的时间比任何技巧都多。希望帮到你。本文还有配套的精品资源点击获取
