简介这份PPT聚焦大模型概念、技术与应用实践面向高校师生、人工智能初学者以及希望系统建立大模型知识框架的非技术读者可用于课程教学、通识科普、讲座分享与自学梳理。内容从人工智能发展简史、人工智能思维切入延伸到大模型的概念界定、发展历程、产品生态、基本原理、主要特点、分类方式、行业应用、对工作生活的影响、本地部署与智能体等主题借助图文演示把抽象概念落到发展脉络与典型场景中兼顾概念普及、技术理解与实践认知。压缩包内共1个pptx文件约61.03MB页面结构完整便于直接用于课堂展示或按章节阅读。目前已有150人学习适合快速把握大模型整体图景并了解厦门大学大数据教学团队相关教学成果的读者。1. 一句话说清大模型它为什么突然出现在每个人的嘴里先给一句定义大模型就是参数规模极大、用海量数据训练出来、能处理文字图像语音等多种内容的一类人工智能模型。打个比方它像一个把整座图书馆翻过一遍的实习生——没亲身经历过什么却对语言里的搭配、逻辑和常识长出了极强的直觉你起个话头它就能接下去。这个比喻不精确但足够帮你把它和一个写死规则的功能区分开它不是等人来点菜单而是从数据里自己长出了一套应对方式。值得花时间搞懂是因为 AI 这个词已经从实验室挪进了日常工具箱而大模型就是这波浪潮底下最核心的那块地基。写周报、查资料、改代码、整理表格背后大概率都是它在出力。搞不清它的边界就容易把它会说误当成它都对。2. 大模型的大到底大在哪参数、数据、算力三笔账2.1 参数不是知识仓库更像一排排调节旋钮很多人第一次听到千亿参数脑子里浮现的画面是一个塞满百科条目的硬盘。这个理解偏得有点远。参数是模型内部的一堆数值训练的过程就是反复微调这些数值让模型在看到某段输入时给出的输出更接近人类会这么说。你可以把它想成调音台上密密麻麻的旋钮旋钮越多能调出来的音色越细腻但旋钮本身不存储任何一首歌。真正的知识分散在旋钮之间的相对位置上谁也指不出哪个旋钮对应水的沸点是一百摄氏度。这也解释了一个反直觉的现象模型能背出某条冷门事实不代表它理解这条事实它答错了也不代表整体能力不行。参数多带来的是表达能力的上限更高能捕捉到更细的模式和规律而不是往仓库里多码了几箱货。2.2 三个数字撑起一个大字衡量一个大模型够不够大业内通常看三样东西参数数量、训练数据量、计算资源消耗。这三者像三脚架缺一条腿就立不稳——参数再多喂的数据不够模型学不到东西数据管够算力跟不上训练跑到一半就烧完了预算。几个常被引用的量级可以帮你建立尺度感2020 年某海外团队发布的第三代模型把参数规模推到了 1750 亿2023 年发布的新一代模型参数规模翻了十倍以上达到 1.8 万亿2021 年国内某团队推出的模型参数量更是做到了 10 万亿这个级别。看到这些数字先别急着惊叹。参数规模只是容量不是成绩。同样参数量的两个模型训练数据质量差一截实际表现可能天差地别。这就好比两个人都有一间两百平的工作室一个人堆满了分类整理过的工具另一个堆满了没拆封的快递箱能做出什么完全不是一回事。维度通俗理解少了会怎样多了会怎样参数数量调音台旋钮的数量表达能力有限复杂语义抓不住容量上限提高但训练和推理更贵训练数据量读过的书和材料总量学到的东西单薄泛化差覆盖更广但对数据清洗要求更高计算资源训练时烧的算力训练跑不完或只能跑小规模能撑起更大模型成本同步上涨注意这张表说的是够不够不是越多越好。规模上去之后边际收益会递减而成本是实打实地往上涨。真正决定一个模型好不好用的往往是数据质量和训练方法而不是单纯堆数字。2.3 大模型的四样本事会写、学得快、看得懂、能挪窝参数和数据的规模最终要落在能力上。这份资料把大模型的能力归成四条每一条都能对应到你日常能感知的场景。第一是语言生成能力。它写出来的句子更自然、更流利减少了那种一眼就能看出是机器拼凑的别扭感。你让它写一段产品说明、一封邮件、一段代码注释出来的东西基本能直接用稍微改改就能交差。第二是学习能力强。它从海量数据里提取规律再用这些规律去回答没见过的问题。你问一个它训练时没直接见过的问题它也能给出一个结构合理的回答——不是因为它背过而是因为它见过太多相似的模式。第三是上下文理解能力。它能抓住一段话里前后文的关系理解更复杂的语义和语境。同一个词在不同句子里的意思不一样它能分辨出来。这也是为什么你给它一段长材料让它总结它不会把开头和结尾的意思搞混。第四是可迁移性。一次训练得到的知识和能力可以挪到不同的任务和领域去用不用为每个任务重新训一遍。这一点是它和早期专用模型最本质的差别以前的模型是一个模型干一件事现在是一个模型能干很多件事换个任务只需要换个提问方式。提示这四条能力都有对应的失效场景。语言流畅不代表内容正确上下文理解强不代表它记得住无限长的对话可迁移也不代表跨领域不用校准。用的时候按能力清单逐条对一遍比笼统地信任它靠谱得多。2.4 概念走了七十年才走到今天这一步大模型不是凭空冒出来的。往回倒1950 年一位英国数学家发表了一篇论文开篇就问机器能思考吗并给出了一个至今仍被引用的判据让测试者隔着屏幕同时和一个人、一台机器对话如果足够多的测试者分不清哪个是机器就认为这台机器具备智能。这个方法后来被冠上提出者的名字成了这个领域的入门第一课。1956 年夏天一场在美国举办的学术研讨会上人工智能这个词第一次被正式提出这个学科由此被当作独立领域立了起来那一年也被称作人工智能元年。此后的路并不平坦1980 年前后卷积神经网络的雏形出现1998 年一个用于手写数字识别、结构相当现代的卷积网络被提出机器学习从浅层走向深度为后来的自然语言生成和计算机视觉打了底。这份资料把大模型自身的发展划成三段萌芽期、沉淀期、爆发期。这个划分比按年份硬切更好用——萌芽期是想法先跑出来、算力和数据都跟不上的阶段沉淀期是技术一点点攒、效果始终差口气的阶段爆发期是算力、数据、方法三样凑齐模型能力突然跨过可用门槛的阶段。很多人对 AI 的印象停留在突然就厉害了其实是前两段太长太闷只有第三段被看见。3. 它是怎么学会说话的从深度学习到逐字接龙的链条3.1 预训练把海量文本压成一套概率直觉理解大模型怎么工作最关键的一步是理解预训练在干什么。想象你拿到一座图书馆的全部藏书任务是把它们读完并形成语感。你没做笔记也没建索引但读完之后你对什么地方该出现什么词有了极强的直觉看到春眠不觉你脱口而出晓看到由于天气原因航班你知道后面大概率是延误而不是取消退款。这种直觉没法一条条列出来但它真实存在。预训练做的就是这件事。模型在海量文本上反复做同一个练习遮住一部分内容猜它是什么。猜错了就调整内部参数猜对了也微调。练上足够多轮之后参数里就沉淀出了一套关于语言和世界如何运作的统计规律。这套规律不是清晰的数据库更像一种压缩后的直觉。所以有句话说得挺准大模型是对人类文本的一次有损压缩。压缩意味着它抓大放小抓住了常见模式和主流表述丢掉了大量细节和例外。这也预告了它的短板——越是冷门、越是需要精确到个位数的东西越容易在压缩里被磨掉。3.2 逐字接龙它为什么能答出连贯的长段很多人以为模型是想好一整段话再吐出来实际不是。它一次只做一个决定给定前面所有内容猜下一个词最可能是什么。猜完接上再猜下一个循环往复。# 极简示意每一步只做一件事——给下一个词打分 vocab [今天, 天气, 不错, 下雨, 出门] # 真实模型的词表有数万到十几万 context [今天, 天气] # scores模型对词表中每个候选词的偏好分数 scores model.score_next_token(context, vocab) # temperature 控制保守还是发散越接近 0 越像照标准答案越大越发散 probs softmax([s / temperature for s in scores]) next_token sample(probs) # 按概率抽一个不是直接取最高分 context.append(next_token) # 抽中的词接回上下文再重复一轮这段伪代码里有三个参数值得记住。temperature决定保守程度做摘要、抽信息、写代码这类要求稳定的任务把它调到接近 0写文案、起标题、头脑风暴这类要求发散的场景才适当调高。把它调高之后答案变得更有创意同时也更容易翻车——因为它开始选那些概率不高但看起来有趣的词。sample这一步说明模型输出带随机性同一个问题问两遍答案可能不一样这不是故障是设计。context则是它全部的记忆超出上下文窗口的内容它真的看不见。把这套机制想明白很多玄学现象就有解释了它答得流畅是因为逐字选词本来就擅长造通顺句子它一本正经地说错是因为听起来合理和事实正确是两个不同的目标它前后矛盾是因为每一轮都在重新看上下文没有独立的记忆存档。3.3 三段路萌芽、沉淀、爆发把技术链条铺开看三个阶段各自解决了不同的问题。萌芽期大致从 1950 年代到 2005 年前后主线是传统神经网络。想法很早就有了但从专家规则到机器学习的转向花了很久算力和数据都撑不起大模型。这个阶段最重要的成果不是效果而是把用数据训练模型这条路走通了。沉淀期深度学习框架逐步成熟模型结构不断迭代训练技巧一点点积累。效果在稳步提升但离普通人愿意用还差一段。这个阶段的很多工作后来成了大模型的地基只是当时没人觉得它们会以这种方式被组合起来。爆发期算力、数据、方法三样凑齐模型规模跨过某个门槛之后出现了一些在小模型上观察不到的能力——业内管这叫涌现。这也是为什么 2020 年之后每隔一段时间就会冒出一个明显更强的东西。注意涌现这个词容易被过度包装。它描述的是一个观察现象不是一种神秘力量。规模到了一定程度能力变强不代表再往上堆就一定继续变强收益曲线会在某处变平。3.4 会生成不等于会查证这是最该早一点建立的认知。模型的输出是概率选出来的不是从某个权威数据库里检索出来的。它没有我知道我不知道的开关遇到没把握的问题它照样会给你一段流畅的回答。这个特性在英文里有个很形象的说法翻成中文大意是听起来很有道理地胡说。应对办法不复杂凡是需要精确的地方——数字、日期、人名、条款、引用——都当成草稿回到一手材料核对一遍。把模型当写作助手和思路陪练它很好用把它当权威信源早晚要吃亏。4. 四个最容易混的概念人工智能、大模型、AIGC 与智能体4.1 人工智能和大模型一个是学科一个是当下最主流的实现这两个词被混用得太厉害以至于很多人以为人工智能就是聊天框。区别在于层级。人工智能是一个学科名从 1956 年那场夏季研讨会算起它包含了符号推理、专家系统、机器学习、深度学习等一大堆路线前后折腾了七十年。大模型是这些路线里当下最成功的一种实现方式出现时间短得多只是刚好赶上了算力和数据都到位。怎么区分看到人工智能这个词想的是这门技术在研究什么看到大模型想的是这一代具体用什么方法做的。前者是领域后者是产品形态。这份资料里把人工智能思维拆成三件事——了解、区分、协作了解它的基础运行模式具备区分人的能力和机器的能力懂得怎么和它配合。这三条针对的是人工智能这个更大的范畴不是某一个具体模型。4.2 大模型和 AIGC一个是引擎一个是产出AIGC 指的是由人工智能生成内容文章、图片、代码、音频、视频都算。它描述的是一种产出形式大模型是驱动这种产出的引擎。这个区别在实际使用中很关键。你看到一段 AI 生成的文案那是 AIGC背后跑的那个能理解指令、组织语言的模型是大模型。同一个大模型可以支撑写作、翻译、问答好几种 AIGC 应用就像一个发动机能装在不同车型上。容易混的原因是两者经常同时出现宣传语里常常混着说。记住一句话就够AIGC 说的是东西是怎么来的大模型说的是是谁在干活。4.3 大模型和搜索引擎、知识库一个靠概率一个靠索引这是日常使用中最容易踩坑的一组。搜索引擎和知识库的工作方式是检索你给关键词它去索引里找匹配的条目原样返回附带出处。大模型的工作方式是生成它根据训练时形成的规律现场组织一段回答。前者保证找到的就是存在的后者保证回答读起来是通顺的。所以两者的可靠性边界完全不同。问某份文件第几条怎么写的该查文档问这段话怎么改得更简洁该用模型。把该查的事交给模型容易得到一段措辞漂亮但细节对不上的答案把该写的事交给检索你只会拿到一堆需要自己拼接的原文。现在很多产品把两者缝在一起先检索再生成这是好办法——但你要清楚缝合之后仍然要看出处。没有出处的流畅回答可信度不会因为界面好看而提高。4.4 智能体和聊天机器人一个会动手一个只会动嘴聊天机器人的能力边界是说你问它答输出是文字。智能体的能力边界扩展到了做它能调用工具、读写文件、发起查询、按步骤完成一个多步任务中间还能根据结果调整下一步。差别不在聪明程度在有没有行动接口。一个只会聊天的模型你让它查一下明天天气再决定要不要提醒我带伞它只能告诉你你可以去查一下接了工具的智能体会真的去调接口、拿到结果、再给你结论。这也带来新的风险面。会动嘴的说错了你改改就行会动手的做错了可能已经把文件删了、把邮件发了。给智能体放开权限的时候边界要划清楚这一步别省。4.5 一张表把边界钉住概念本质是什么典型问法最容易搞混的地方人工智能一个学科和领域这门技术在研究什么被当成某个具体产品大模型一类大规模深度学习模型这一代是用什么方法做的被当成无所不知的数据库AIGC人工智能生成的内容这段东西是怎么产出的被当成技术本身智能体能调用工具、执行多步任务的系统它能不能自己把事办完被当成更聪明的聊天框5. 云端调用、本地部署与智能体三种用法各自解决什么5.1 云端接口最省事的那条路绝大多数人接触大模型的方式是云端调用打开网页或调用接口输入内容拿回结果。模型跑在别人的机房你只负责提需求。这条路的优势是门槛低。不用买卡不用配环境不用管模型怎么升级打开就能用。对个人用户和中小团队来说这是性价比最高的起点。代价有两个。一是数据要出你的机器涉及敏感信息的时候得先想清楚二是你用的是通用模型它对某个垂直领域的了解可能不如一个专门调过的模型。第一条是硬约束第二条可以靠提示词和补充材料缓解。# 云端调用的形状大致如此各家字段名不同看文档对应 response client.generate( model通用对话模型, messages[{role: user, content: 把这段会议记录整理成三条待办}], max_tokens512, # 输出长度上限防止它刹不住车 temperature0.3, # 抽取类任务调低减少自由发挥 )max_tokens限制的是输出长度不是输入长度别搞反。temperature在这里给到 0.3是因为整理待办属于照着原文抽不需要 creativity越低越稳。如果换成写宣传文案这个值可以往上抬到 0.8 左右试试手感。5.2 本地部署数据不出门的那条路本地部署指的是把模型下载到自己的机器或内网服务器上跑。这条路解决的核心问题只有一个数据不能出去。对处理内部文档、客户资料、未公开设计的场景来说这个约束往往是决定性的。云端再方便数据要经过别人的服务器有些行业就是过不了这一关。代价也很实在。硬件要够显存是硬门槛模型要自己维护版本更新、参数调优都得自己来效果上能在本地跑起来的模型规模通常比云端旗舰小一截复杂推理任务的表现会有落差。# 本地部署以常见的开源推理服务为例参数按显存调整 inference-server \ --model ./local-model \ --context-length 8192 \ --gpu-memory-utilization 0.9--context-length是上下文窗口决定它一次能看见多少内容。这个值越大越吃显存8K 大约够处理一篇长文再往上要算算显存够不够。--gpu-memory-utilization是显存占用比例给到 0.9 是留一点余量顶到 1.0 容易在峰值时崩掉。这两个参数是最常需要调的其他保持默认通常能跑起来。提示本地部署前先算清楚三件事——模型文件多大、显存有多少、并发几个人用。三个数对不上跑起来也会在某个环节卡住。这份资料里把本地部署单列成一节就是因为这一步最容易在硬件上翻车。5.3 智能体从会说跨到会做智能体的思路是给模型接上手脚。它通常包含几个部件一个负责理解任务和拆分步骤的模型一组可以调用的工具查数据库、读文件、发请求一份记录中间结果的记忆以及一个判断这步做完没有的循环。举个具体例子。你让它把本周的销售数据整理成周报纯聊天模型只能给你一个周报模板智能体会先去查数据、算汇总、按模板填进去、生成文件中途发现某天数据缺失还会回头补查。差别不在语言能力在于它能不能真的执行动作。这条路适合流程固定、步骤清晰、人工做起来很重复的任务。不适合的是目标模糊、判断标准主观、出错代价高的任务——比如让它自己决定要不要给客户发一封措辞强硬的邮件这种权限给出去后悔药可不好买。5.4 分类的几条常见切法理解了大模型是什么还得知道它不是一种东西而是一大类。常见的切法有几种。按处理的模态分只处理文字的能同时处理文字和图像的能处理语音的能处理视频的。模态越多能接的任务越杂但对数据和算力的要求也越高。按开放程度分权重公开、可以自己下载部署的只提供接口、模型藏在云端的。前者可控性强后者省心选哪个取决于你对数据流向的要求。按规模分能在普通设备上跑的轻量模型和需要集群支撑的旗舰模型。这两者的能力差距在简单任务上不明显在需要多步推理的复杂任务上会拉开。这份资料把这些维度归到大模型分类一节里统一讲好处是你不会只记住一个维度就以为全懂了。实际选型时往往是几个维度一起看既要模态对得上又要部署方式能接受还要规模撑得住任务复杂度。6. 什么时候该请它上场什么时候请它下场判断标准其实不复杂就看两件事这件事的容错空间有多大以及结果需不需要一个能追溯的出处。容错空间大、不需要出处的活放手给它。起标题、改措辞、把一段混乱的笔记整理成条理清楚的纪要、给一段代码写注释、把一份长文档压成三点摘要、想出十个方案再自己挑一个——这些事它做得又快又好你只需要在结果上做判断不需要过程可追溯。容错空间小、必须能追溯的活别单独交给它。算财务数字、引用条款原文、报一个具体日期、回答我们公司这项规定的第几条第几款是什么——这些必须回到一手材料。模型可以帮你找到方向、缩小范围但最后那一下核对不能省。场景适合程度原因文案初稿、改写、扩写高容错空间大不满意重来一次成本极低长文档摘要、会议纪要中高效率提升明显但关键数字要回原文核代码补全、注释、报错解释中高逻辑类问题它很擅长具体接口要查文档多步流程自动化中需要工具权限边界必须提前划清财务计算、法务条款引用低精度要求高错一位就是事故需要署名的专业结论低责任在人模型给不了可追溯的依据还有一个常被忽略的判断维度这件事值不值得用模型。有些任务手工做五分钟就完了为了用模型去调提示词、改输出、核对结果反而花掉二十分钟。工具是用来省时间的不是用来证明自己跟上了潮流。我自己踩过最典型的一次坑是让模型帮我核对一份材料里的数据。它给回来的版本读起来特别顺格式也整齐我扫了一眼就发出去了。后来对方指出其中两个数字对不上原表——它把相邻两行的数值串了。从那以后我每次用它处理带数字的内容都强制走一遍让它标出每个数字来自原文哪一句的流程标不出来的自己回去查。这个习惯多花几分钟但省下的返工时间远不止几分钟。希望帮到你。这套资料把从人工智能简史、人工智能思维到大模型的概念、原理、特点、分类、应用领域、对工作生活的影响再到本地部署和智能体串成了一条完整的线前面几章讲不清的地方在里面都能找到对应的展开。想系统过一遍的话把这份完整资料取来读一遍比零散地刷几十条碎片信息扎实得多。本文还有配套的精品资源点击获取
简介这份PPT聚焦大模型概念、技术与应用实践面向高校师生、人工智能初学者以及希望系统建立大模型知识框架的非技术读者可用于课程教学、通识科普、讲座分享与自学梳理。内容从人工智能发展简史、人工智能思维切入延伸到大模型的概念界定、发展历程、产品生态、基本原理、主要特点、分类方式、行业应用、对工作生活的影响、本地部署与智能体等主题借助图文演示把抽象概念落到发展脉络与典型场景中兼顾概念普及、技术理解与实践认知。压缩包内共1个pptx文件约61.03MB页面结构完整便于直接用于课堂展示或按章节阅读。目前已有150人学习适合快速把握大模型整体图景并了解厦门大学大数据教学团队相关教学成果的读者。1. 一句话说清大模型它为什么突然出现在每个人的嘴里先给一句定义大模型就是参数规模极大、用海量数据训练出来、能处理文字图像语音等多种内容的一类人工智能模型。打个比方它像一个把整座图书馆翻过一遍的实习生——没亲身经历过什么却对语言里的搭配、逻辑和常识长出了极强的直觉你起个话头它就能接下去。这个比喻不精确但足够帮你把它和一个写死规则的功能区分开它不是等人来点菜单而是从数据里自己长出了一套应对方式。值得花时间搞懂是因为 AI 这个词已经从实验室挪进了日常工具箱而大模型就是这波浪潮底下最核心的那块地基。写周报、查资料、改代码、整理表格背后大概率都是它在出力。搞不清它的边界就容易把它会说误当成它都对。2. 大模型的大到底大在哪参数、数据、算力三笔账2.1 参数不是知识仓库更像一排排调节旋钮很多人第一次听到千亿参数脑子里浮现的画面是一个塞满百科条目的硬盘。这个理解偏得有点远。参数是模型内部的一堆数值训练的过程就是反复微调这些数值让模型在看到某段输入时给出的输出更接近人类会这么说。你可以把它想成调音台上密密麻麻的旋钮旋钮越多能调出来的音色越细腻但旋钮本身不存储任何一首歌。真正的知识分散在旋钮之间的相对位置上谁也指不出哪个旋钮对应水的沸点是一百摄氏度。这也解释了一个反直觉的现象模型能背出某条冷门事实不代表它理解这条事实它答错了也不代表整体能力不行。参数多带来的是表达能力的上限更高能捕捉到更细的模式和规律而不是往仓库里多码了几箱货。2.2 三个数字撑起一个大字衡量一个大模型够不够大业内通常看三样东西参数数量、训练数据量、计算资源消耗。这三者像三脚架缺一条腿就立不稳——参数再多喂的数据不够模型学不到东西数据管够算力跟不上训练跑到一半就烧完了预算。几个常被引用的量级可以帮你建立尺度感2020 年某海外团队发布的第三代模型把参数规模推到了 1750 亿2023 年发布的新一代模型参数规模翻了十倍以上达到 1.8 万亿2021 年国内某团队推出的模型参数量更是做到了 10 万亿这个级别。看到这些数字先别急着惊叹。参数规模只是容量不是成绩。同样参数量的两个模型训练数据质量差一截实际表现可能天差地别。这就好比两个人都有一间两百平的工作室一个人堆满了分类整理过的工具另一个堆满了没拆封的快递箱能做出什么完全不是一回事。维度通俗理解少了会怎样多了会怎样参数数量调音台旋钮的数量表达能力有限复杂语义抓不住容量上限提高但训练和推理更贵训练数据量读过的书和材料总量学到的东西单薄泛化差覆盖更广但对数据清洗要求更高计算资源训练时烧的算力训练跑不完或只能跑小规模能撑起更大模型成本同步上涨注意这张表说的是够不够不是越多越好。规模上去之后边际收益会递减而成本是实打实地往上涨。真正决定一个模型好不好用的往往是数据质量和训练方法而不是单纯堆数字。2.3 大模型的四样本事会写、学得快、看得懂、能挪窝参数和数据的规模最终要落在能力上。这份资料把大模型的能力归成四条每一条都能对应到你日常能感知的场景。第一是语言生成能力。它写出来的句子更自然、更流利减少了那种一眼就能看出是机器拼凑的别扭感。你让它写一段产品说明、一封邮件、一段代码注释出来的东西基本能直接用稍微改改就能交差。第二是学习能力强。它从海量数据里提取规律再用这些规律去回答没见过的问题。你问一个它训练时没直接见过的问题它也能给出一个结构合理的回答——不是因为它背过而是因为它见过太多相似的模式。第三是上下文理解能力。它能抓住一段话里前后文的关系理解更复杂的语义和语境。同一个词在不同句子里的意思不一样它能分辨出来。这也是为什么你给它一段长材料让它总结它不会把开头和结尾的意思搞混。第四是可迁移性。一次训练得到的知识和能力可以挪到不同的任务和领域去用不用为每个任务重新训一遍。这一点是它和早期专用模型最本质的差别以前的模型是一个模型干一件事现在是一个模型能干很多件事换个任务只需要换个提问方式。提示这四条能力都有对应的失效场景。语言流畅不代表内容正确上下文理解强不代表它记得住无限长的对话可迁移也不代表跨领域不用校准。用的时候按能力清单逐条对一遍比笼统地信任它靠谱得多。2.4 概念走了七十年才走到今天这一步大模型不是凭空冒出来的。往回倒1950 年一位英国数学家发表了一篇论文开篇就问机器能思考吗并给出了一个至今仍被引用的判据让测试者隔着屏幕同时和一个人、一台机器对话如果足够多的测试者分不清哪个是机器就认为这台机器具备智能。这个方法后来被冠上提出者的名字成了这个领域的入门第一课。1956 年夏天一场在美国举办的学术研讨会上人工智能这个词第一次被正式提出这个学科由此被当作独立领域立了起来那一年也被称作人工智能元年。此后的路并不平坦1980 年前后卷积神经网络的雏形出现1998 年一个用于手写数字识别、结构相当现代的卷积网络被提出机器学习从浅层走向深度为后来的自然语言生成和计算机视觉打了底。这份资料把大模型自身的发展划成三段萌芽期、沉淀期、爆发期。这个划分比按年份硬切更好用——萌芽期是想法先跑出来、算力和数据都跟不上的阶段沉淀期是技术一点点攒、效果始终差口气的阶段爆发期是算力、数据、方法三样凑齐模型能力突然跨过可用门槛的阶段。很多人对 AI 的印象停留在突然就厉害了其实是前两段太长太闷只有第三段被看见。3. 它是怎么学会说话的从深度学习到逐字接龙的链条3.1 预训练把海量文本压成一套概率直觉理解大模型怎么工作最关键的一步是理解预训练在干什么。想象你拿到一座图书馆的全部藏书任务是把它们读完并形成语感。你没做笔记也没建索引但读完之后你对什么地方该出现什么词有了极强的直觉看到春眠不觉你脱口而出晓看到由于天气原因航班你知道后面大概率是延误而不是取消退款。这种直觉没法一条条列出来但它真实存在。预训练做的就是这件事。模型在海量文本上反复做同一个练习遮住一部分内容猜它是什么。猜错了就调整内部参数猜对了也微调。练上足够多轮之后参数里就沉淀出了一套关于语言和世界如何运作的统计规律。这套规律不是清晰的数据库更像一种压缩后的直觉。所以有句话说得挺准大模型是对人类文本的一次有损压缩。压缩意味着它抓大放小抓住了常见模式和主流表述丢掉了大量细节和例外。这也预告了它的短板——越是冷门、越是需要精确到个位数的东西越容易在压缩里被磨掉。3.2 逐字接龙它为什么能答出连贯的长段很多人以为模型是想好一整段话再吐出来实际不是。它一次只做一个决定给定前面所有内容猜下一个词最可能是什么。猜完接上再猜下一个循环往复。# 极简示意每一步只做一件事——给下一个词打分 vocab [今天, 天气, 不错, 下雨, 出门] # 真实模型的词表有数万到十几万 context [今天, 天气] # scores模型对词表中每个候选词的偏好分数 scores model.score_next_token(context, vocab) # temperature 控制保守还是发散越接近 0 越像照标准答案越大越发散 probs softmax([s / temperature for s in scores]) next_token sample(probs) # 按概率抽一个不是直接取最高分 context.append(next_token) # 抽中的词接回上下文再重复一轮这段伪代码里有三个参数值得记住。temperature决定保守程度做摘要、抽信息、写代码这类要求稳定的任务把它调到接近 0写文案、起标题、头脑风暴这类要求发散的场景才适当调高。把它调高之后答案变得更有创意同时也更容易翻车——因为它开始选那些概率不高但看起来有趣的词。sample这一步说明模型输出带随机性同一个问题问两遍答案可能不一样这不是故障是设计。context则是它全部的记忆超出上下文窗口的内容它真的看不见。把这套机制想明白很多玄学现象就有解释了它答得流畅是因为逐字选词本来就擅长造通顺句子它一本正经地说错是因为听起来合理和事实正确是两个不同的目标它前后矛盾是因为每一轮都在重新看上下文没有独立的记忆存档。3.3 三段路萌芽、沉淀、爆发把技术链条铺开看三个阶段各自解决了不同的问题。萌芽期大致从 1950 年代到 2005 年前后主线是传统神经网络。想法很早就有了但从专家规则到机器学习的转向花了很久算力和数据都撑不起大模型。这个阶段最重要的成果不是效果而是把用数据训练模型这条路走通了。沉淀期深度学习框架逐步成熟模型结构不断迭代训练技巧一点点积累。效果在稳步提升但离普通人愿意用还差一段。这个阶段的很多工作后来成了大模型的地基只是当时没人觉得它们会以这种方式被组合起来。爆发期算力、数据、方法三样凑齐模型规模跨过某个门槛之后出现了一些在小模型上观察不到的能力——业内管这叫涌现。这也是为什么 2020 年之后每隔一段时间就会冒出一个明显更强的东西。注意涌现这个词容易被过度包装。它描述的是一个观察现象不是一种神秘力量。规模到了一定程度能力变强不代表再往上堆就一定继续变强收益曲线会在某处变平。3.4 会生成不等于会查证这是最该早一点建立的认知。模型的输出是概率选出来的不是从某个权威数据库里检索出来的。它没有我知道我不知道的开关遇到没把握的问题它照样会给你一段流畅的回答。这个特性在英文里有个很形象的说法翻成中文大意是听起来很有道理地胡说。应对办法不复杂凡是需要精确的地方——数字、日期、人名、条款、引用——都当成草稿回到一手材料核对一遍。把模型当写作助手和思路陪练它很好用把它当权威信源早晚要吃亏。4. 四个最容易混的概念人工智能、大模型、AIGC 与智能体4.1 人工智能和大模型一个是学科一个是当下最主流的实现这两个词被混用得太厉害以至于很多人以为人工智能就是聊天框。区别在于层级。人工智能是一个学科名从 1956 年那场夏季研讨会算起它包含了符号推理、专家系统、机器学习、深度学习等一大堆路线前后折腾了七十年。大模型是这些路线里当下最成功的一种实现方式出现时间短得多只是刚好赶上了算力和数据都到位。怎么区分看到人工智能这个词想的是这门技术在研究什么看到大模型想的是这一代具体用什么方法做的。前者是领域后者是产品形态。这份资料里把人工智能思维拆成三件事——了解、区分、协作了解它的基础运行模式具备区分人的能力和机器的能力懂得怎么和它配合。这三条针对的是人工智能这个更大的范畴不是某一个具体模型。4.2 大模型和 AIGC一个是引擎一个是产出AIGC 指的是由人工智能生成内容文章、图片、代码、音频、视频都算。它描述的是一种产出形式大模型是驱动这种产出的引擎。这个区别在实际使用中很关键。你看到一段 AI 生成的文案那是 AIGC背后跑的那个能理解指令、组织语言的模型是大模型。同一个大模型可以支撑写作、翻译、问答好几种 AIGC 应用就像一个发动机能装在不同车型上。容易混的原因是两者经常同时出现宣传语里常常混着说。记住一句话就够AIGC 说的是东西是怎么来的大模型说的是是谁在干活。4.3 大模型和搜索引擎、知识库一个靠概率一个靠索引这是日常使用中最容易踩坑的一组。搜索引擎和知识库的工作方式是检索你给关键词它去索引里找匹配的条目原样返回附带出处。大模型的工作方式是生成它根据训练时形成的规律现场组织一段回答。前者保证找到的就是存在的后者保证回答读起来是通顺的。所以两者的可靠性边界完全不同。问某份文件第几条怎么写的该查文档问这段话怎么改得更简洁该用模型。把该查的事交给模型容易得到一段措辞漂亮但细节对不上的答案把该写的事交给检索你只会拿到一堆需要自己拼接的原文。现在很多产品把两者缝在一起先检索再生成这是好办法——但你要清楚缝合之后仍然要看出处。没有出处的流畅回答可信度不会因为界面好看而提高。4.4 智能体和聊天机器人一个会动手一个只会动嘴聊天机器人的能力边界是说你问它答输出是文字。智能体的能力边界扩展到了做它能调用工具、读写文件、发起查询、按步骤完成一个多步任务中间还能根据结果调整下一步。差别不在聪明程度在有没有行动接口。一个只会聊天的模型你让它查一下明天天气再决定要不要提醒我带伞它只能告诉你你可以去查一下接了工具的智能体会真的去调接口、拿到结果、再给你结论。这也带来新的风险面。会动嘴的说错了你改改就行会动手的做错了可能已经把文件删了、把邮件发了。给智能体放开权限的时候边界要划清楚这一步别省。4.5 一张表把边界钉住概念本质是什么典型问法最容易搞混的地方人工智能一个学科和领域这门技术在研究什么被当成某个具体产品大模型一类大规模深度学习模型这一代是用什么方法做的被当成无所不知的数据库AIGC人工智能生成的内容这段东西是怎么产出的被当成技术本身智能体能调用工具、执行多步任务的系统它能不能自己把事办完被当成更聪明的聊天框5. 云端调用、本地部署与智能体三种用法各自解决什么5.1 云端接口最省事的那条路绝大多数人接触大模型的方式是云端调用打开网页或调用接口输入内容拿回结果。模型跑在别人的机房你只负责提需求。这条路的优势是门槛低。不用买卡不用配环境不用管模型怎么升级打开就能用。对个人用户和中小团队来说这是性价比最高的起点。代价有两个。一是数据要出你的机器涉及敏感信息的时候得先想清楚二是你用的是通用模型它对某个垂直领域的了解可能不如一个专门调过的模型。第一条是硬约束第二条可以靠提示词和补充材料缓解。# 云端调用的形状大致如此各家字段名不同看文档对应 response client.generate( model通用对话模型, messages[{role: user, content: 把这段会议记录整理成三条待办}], max_tokens512, # 输出长度上限防止它刹不住车 temperature0.3, # 抽取类任务调低减少自由发挥 )max_tokens限制的是输出长度不是输入长度别搞反。temperature在这里给到 0.3是因为整理待办属于照着原文抽不需要 creativity越低越稳。如果换成写宣传文案这个值可以往上抬到 0.8 左右试试手感。5.2 本地部署数据不出门的那条路本地部署指的是把模型下载到自己的机器或内网服务器上跑。这条路解决的核心问题只有一个数据不能出去。对处理内部文档、客户资料、未公开设计的场景来说这个约束往往是决定性的。云端再方便数据要经过别人的服务器有些行业就是过不了这一关。代价也很实在。硬件要够显存是硬门槛模型要自己维护版本更新、参数调优都得自己来效果上能在本地跑起来的模型规模通常比云端旗舰小一截复杂推理任务的表现会有落差。# 本地部署以常见的开源推理服务为例参数按显存调整 inference-server \ --model ./local-model \ --context-length 8192 \ --gpu-memory-utilization 0.9--context-length是上下文窗口决定它一次能看见多少内容。这个值越大越吃显存8K 大约够处理一篇长文再往上要算算显存够不够。--gpu-memory-utilization是显存占用比例给到 0.9 是留一点余量顶到 1.0 容易在峰值时崩掉。这两个参数是最常需要调的其他保持默认通常能跑起来。提示本地部署前先算清楚三件事——模型文件多大、显存有多少、并发几个人用。三个数对不上跑起来也会在某个环节卡住。这份资料里把本地部署单列成一节就是因为这一步最容易在硬件上翻车。5.3 智能体从会说跨到会做智能体的思路是给模型接上手脚。它通常包含几个部件一个负责理解任务和拆分步骤的模型一组可以调用的工具查数据库、读文件、发请求一份记录中间结果的记忆以及一个判断这步做完没有的循环。举个具体例子。你让它把本周的销售数据整理成周报纯聊天模型只能给你一个周报模板智能体会先去查数据、算汇总、按模板填进去、生成文件中途发现某天数据缺失还会回头补查。差别不在语言能力在于它能不能真的执行动作。这条路适合流程固定、步骤清晰、人工做起来很重复的任务。不适合的是目标模糊、判断标准主观、出错代价高的任务——比如让它自己决定要不要给客户发一封措辞强硬的邮件这种权限给出去后悔药可不好买。5.4 分类的几条常见切法理解了大模型是什么还得知道它不是一种东西而是一大类。常见的切法有几种。按处理的模态分只处理文字的能同时处理文字和图像的能处理语音的能处理视频的。模态越多能接的任务越杂但对数据和算力的要求也越高。按开放程度分权重公开、可以自己下载部署的只提供接口、模型藏在云端的。前者可控性强后者省心选哪个取决于你对数据流向的要求。按规模分能在普通设备上跑的轻量模型和需要集群支撑的旗舰模型。这两者的能力差距在简单任务上不明显在需要多步推理的复杂任务上会拉开。这份资料把这些维度归到大模型分类一节里统一讲好处是你不会只记住一个维度就以为全懂了。实际选型时往往是几个维度一起看既要模态对得上又要部署方式能接受还要规模撑得住任务复杂度。6. 什么时候该请它上场什么时候请它下场判断标准其实不复杂就看两件事这件事的容错空间有多大以及结果需不需要一个能追溯的出处。容错空间大、不需要出处的活放手给它。起标题、改措辞、把一段混乱的笔记整理成条理清楚的纪要、给一段代码写注释、把一份长文档压成三点摘要、想出十个方案再自己挑一个——这些事它做得又快又好你只需要在结果上做判断不需要过程可追溯。容错空间小、必须能追溯的活别单独交给它。算财务数字、引用条款原文、报一个具体日期、回答我们公司这项规定的第几条第几款是什么——这些必须回到一手材料。模型可以帮你找到方向、缩小范围但最后那一下核对不能省。场景适合程度原因文案初稿、改写、扩写高容错空间大不满意重来一次成本极低长文档摘要、会议纪要中高效率提升明显但关键数字要回原文核代码补全、注释、报错解释中高逻辑类问题它很擅长具体接口要查文档多步流程自动化中需要工具权限边界必须提前划清财务计算、法务条款引用低精度要求高错一位就是事故需要署名的专业结论低责任在人模型给不了可追溯的依据还有一个常被忽略的判断维度这件事值不值得用模型。有些任务手工做五分钟就完了为了用模型去调提示词、改输出、核对结果反而花掉二十分钟。工具是用来省时间的不是用来证明自己跟上了潮流。我自己踩过最典型的一次坑是让模型帮我核对一份材料里的数据。它给回来的版本读起来特别顺格式也整齐我扫了一眼就发出去了。后来对方指出其中两个数字对不上原表——它把相邻两行的数值串了。从那以后我每次用它处理带数字的内容都强制走一遍让它标出每个数字来自原文哪一句的流程标不出来的自己回去查。这个习惯多花几分钟但省下的返工时间远不止几分钟。希望帮到你。这套资料把从人工智能简史、人工智能思维到大模型的概念、原理、特点、分类、应用领域、对工作生活的影响再到本地部署和智能体串成了一条完整的线前面几章讲不清的地方在里面都能找到对应的展开。想系统过一遍的话把这份完整资料取来读一遍比零散地刷几十条碎片信息扎实得多。本文还有配套的精品资源点击获取
