LLM Cookbook 完整入门指南从第一行 Prompt 到能问答自己的 PDF【免费下载链接】llm-cookbook面向开发者的 LLM 入门教程吴恩达大模型系列课程中文版项目地址: https://gitcode.com/GitHub_Trending/ll/llm-cookbookLLM Cookbook 是 Datawhale 基于吴恩达大模型系列课程整理的中文实战教程11 门课从写出一条稳定可复现的 Prompt到搭出一个能检索你私有文档的 RAG 问答系统全程配可运行代码适合有 Python 基础、想系统入门大模型应用开发的开发者。新手最容易卡住的往往不是模型够不够强而是四件事成本算不清、它没读过你的资料、多步串不起来、改完说不清好坏。这篇指南就按这四个卡点拆——每个卡点先标出你在整条链路哪一段再给项目里对应的解法和对应课程。阅读路径如下成本算不清、同一条指令每次输出都不一样 → 卡点①它答非所问因为你公司的资料它根本没读过 → 卡点②单步能跑多步一接就乱 → 卡点③格式压不住、改完不知道好坏 → 卡点④想直接上手 → 路线图⑤ 卡点①Token 计不清输出还飘定位大语言模型不是神谕它是一台按 Token 一块一块往外续写的文本机器你花的钱、它一次能读多少都由这个最小单位决定。Token计费与计长的最小单位一句话定义分词器把文本切碎后的最小计价、计长单位。举例让模型把大模型三个字逐字倒过来写它经常翻车——因为在分词器眼里大模型是一整块它只能整块搬拆不开字。把输入改成大 模 型逐字加空格让它一次挪一块反而对了。这不是模型笨是它的原子粒度决定的。具体数字英文约 1 个 Token ≈ 3/4 个单词中文约 1 个 Token ≈ 1 个汉字。划清边界最易混的是上下文窗口。Token 是计量单位上下文窗口是容量上限而且输入 输出共用同一个 Token 池——你塞进去的资料越多能生成的空间就越少。你的 API 账单就是按这个池子里消耗的 Token 数结算的。Chat 格式把人设和任务分开一句话定义Chat 格式把一次对话拆成system定人设、定规矩和user提当次任务两类消息。举例system相当于给机器人发一张岗位职责卡——你是客服助手回复不超过两句语气客气user才是当班要办的具体工单——帮我总结这条差评。它回完的assistant消息还会回流进上下文下一轮才接得上。划清边界它和一次性 completion补全的区别在于——completion 是单轮、无角色、无历史回流Chat 用system管长期人设用多轮assistant消息记住上文。必修课里所有示例都封装了个辅助函数把messages列表发给 API 并顺带返回本次 Token 消耗让你每写一条指令都心里有账。Temperature同一 Prompt 的随机旋钮一句话定义控制采样随机性的参数temperature0趋近确定调高越发散。举例写发票摘要要它低答案唯一抖动就是噪声写产品文案调高一点同一条 Prompt 连跑三次能出三种风格。仓库示例默认temperature0就是为了让结果可复现。划清边界它最容易被误当成模型变蠢了。其实temperature调高 ≠ Prompt 写坏了——前者是采样随机性后者是指令问题。先固定temperature0复现再改指令你才分得清是运气的锅还是你写的锅。 卡点②它答非所问因为没读过你的资料定位模型的知识截止在训练那天也装不下你的私有文档。RAG检索增强生成的思路是先查资料再作答。Embedding把文字变成可比较的数一句话定义把文本压成一组数字意思越像这组数字就越接近。举例这条裤子版型偏大和尺码建议拍小一码这组数字靠得很近今天适合跑步吗离得老远。比谁像谁不再靠数关键词重合而是靠量这组数字的远近——这就是向量检索的地基。划清边界它和关键词检索的区别在于——关键词检索比字面重合遇到版型偏大去查尺码这种换说法的问法就漏了Embedding 比的是语义远近能接住换了表述的同义问题。切块与向量库资料怎么存一句话定义加载 → 切块split→ 向量化 → 入库四步一次性建好库。举例块太大检索回来一大坨噪声挤爆上下文块太小一句话被拦腰截断、语义没了。仓库在必修四用RecursiveCharacterTextSplitter设块大小再加重叠区间就是让切点尽量落在句子边界上。划清边界它和整篇塞给模型的区别在于——整篇丢进去既撑爆 Token 池又让模型抓不住重点。切块是离线动作决定资料怎么摆检索是线上动作决定答案怎么找。检索的坑重复入库、序号词失效一句话定义把用户问题转成向量在库里取出最相关的 k 块k常取 3~5连同问题一起交给 LLM 生成。举例同一个 PDF 重复入库会返回重复块问题里带了第三讲这种定位词向量搜索只认语义、不认序号直接答非所问。划清边界它和整篇上下文不同——RAG 只把最相关的几块带进 Prompt不改变模型本身知识可随时增删。选修课给的药方是查询扩展把问题改写成多个变体再搜 交叉编码器重排序对粗筛结果精排。 卡点③单步能跑多步一接就乱定位单点能力拼起来才成系统这一层解决多个步骤怎么串和状态怎么记。LangChain 与 Chain把步骤粘成流水线一句话定义Chain 把检索 → 填模板 → 调模型 → 解析输出这类步骤串成一条固定流水线。举例RAG 问答不用你手写胶水代码。框架有现成的RetrievalQA链把向量库和模型挂上去问一句话它自动完成检索、拼 Prompt、调模型、返回答案。划清边界它和手写 if-else 胶水的区别在于——不用框架时检索、拼接、解析每一步都要你自己写连接代码Chain 把这些粘好你只想换其中一环时再用 Prompt 模板加输出解析器Output Parser把自由文本掰成 JSON 或固定格式。Memory为什么它记不住上一句一句话定义Memory 负责多轮对话的状态让聊天机器人接得上话。举例Chain 管单次流程Memory 管上一句谁说了什么。没有 Memory你问它的价格呢模型不知道它指哪个。划清边界它和 Chain 的分工是——Chain 管一次请求内走完的固定路线Memory 管跨请求要留下的上下文。Agent让模型自己决定调哪个工具一句话定义给模型一个思考—行动—观察的循环让它自己决定调哪个工具。举例先想Reason再动手Action比如查搜索或算数把工具返回结果观察Observation进来再想再动直到给出答案。这就是 ReAct 范式。划清边界它和 RAG 单轮检索的区别在于——RAG 只查一次库就作答Agent 会循环调用多个工具路线是模型现场决策的灵活但更不可控也更容易跑偏用之前先想好兜底。️ 卡点④格式压不住还说不清改完好坏定位这一层解决模型不够用怎么办和怎么证明它变好了。微调把格式焊进参数一句话定义在自己的数据上再训一轮让模型适配特定格式或领域。举例客服回复永远要先道歉 → 给订单号 → 列三种售后选项这种硬格式用 Prompt 压不住就选微调。划清边界它和 Prompt 工程的区别在于——Prompt 只改这一次对话的输入微调改的是模型参数前者花的是 Token 钱后者花的是算力和数据。经验法则是先 RAG 后微调资料能检索到的优先检索检索也解决不了、且属于稳定格式或风格要求再动参数。评估怎么证明改完变好了一句话定义建一组标准问题用指标量化判断改 Prompt、换检索策略或微调后到底变好还是变坏。举例检索侧常用MAP、MRR、NDGC给召回质量打分生成侧用答案相关性上下文相关性给回答打分。有数字才敢上线。划清边界它和跑几个例子看看的区别在于——抽查是拍脑袋评估是固定一套题反复跑、横向对比改一处能立刻看出分数升还是降。️ 路线图⑤五站走完全程仓库把 11 门课分成必修四门、选修七门。可运行代码在 content/文字讲义在 docs/建议按下面顺序走每站给出入口、耗时和通过标准。必修一 · Prompt 入门1~2 周。入口必修一 Prompt Engineering。通过标准能给一个任务写出可复现、带评估样本的 Prompt。必修二 · API 搭问答系统2~3 周。入口必修二 ChatGPT API。通过标准能说清每次 API 调用的 Token 开销会做输入输出检查。必修三 · LangChain 编排2~3 周。入口必修三 LangChain。通过标准不手写胶水代码用组件拼出带记忆的问答链。必修四 · 个人数据问答RAG2~3 周。入口必修四 Chat with Your Data。通过标准把自己的 PDF 变成能问答的本地库并说得清相似性搜索的失败模式。选修 · 按兴趣挑各 1~2 周。想深挖检索Advanced Retrieval想玩提示技巧Advanced Prompting想动参数Finetuning LLM想上 AgentFunctions, Tools and Agents。今天就做这三件事拉仓库git clone https://gitcode.com/GitHub_Trending/ll/llm-cookbook配环境装好 Jupyter、申请一个 LLM API key参考 环境配置。打开必修一第 2 课照着重跑一遍示例亲手改两条指令看输出差异——跑通第一个 Notebook 的那一刻你就在这条链路上了。【免费下载链接】llm-cookbook面向开发者的 LLM 入门教程吴恩达大模型系列课程中文版项目地址: https://gitcode.com/GitHub_Trending/ll/llm-cookbook创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
LLM Cookbook 完整入门指南从第一行 Prompt 到能问答自己的 PDF【免费下载链接】llm-cookbook面向开发者的 LLM 入门教程吴恩达大模型系列课程中文版项目地址: https://gitcode.com/GitHub_Trending/ll/llm-cookbookLLM Cookbook 是 Datawhale 基于吴恩达大模型系列课程整理的中文实战教程11 门课从写出一条稳定可复现的 Prompt到搭出一个能检索你私有文档的 RAG 问答系统全程配可运行代码适合有 Python 基础、想系统入门大模型应用开发的开发者。新手最容易卡住的往往不是模型够不够强而是四件事成本算不清、它没读过你的资料、多步串不起来、改完说不清好坏。这篇指南就按这四个卡点拆——每个卡点先标出你在整条链路哪一段再给项目里对应的解法和对应课程。阅读路径如下成本算不清、同一条指令每次输出都不一样 → 卡点①它答非所问因为你公司的资料它根本没读过 → 卡点②单步能跑多步一接就乱 → 卡点③格式压不住、改完不知道好坏 → 卡点④想直接上手 → 路线图⑤ 卡点①Token 计不清输出还飘定位大语言模型不是神谕它是一台按 Token 一块一块往外续写的文本机器你花的钱、它一次能读多少都由这个最小单位决定。Token计费与计长的最小单位一句话定义分词器把文本切碎后的最小计价、计长单位。举例让模型把大模型三个字逐字倒过来写它经常翻车——因为在分词器眼里大模型是一整块它只能整块搬拆不开字。把输入改成大 模 型逐字加空格让它一次挪一块反而对了。这不是模型笨是它的原子粒度决定的。具体数字英文约 1 个 Token ≈ 3/4 个单词中文约 1 个 Token ≈ 1 个汉字。划清边界最易混的是上下文窗口。Token 是计量单位上下文窗口是容量上限而且输入 输出共用同一个 Token 池——你塞进去的资料越多能生成的空间就越少。你的 API 账单就是按这个池子里消耗的 Token 数结算的。Chat 格式把人设和任务分开一句话定义Chat 格式把一次对话拆成system定人设、定规矩和user提当次任务两类消息。举例system相当于给机器人发一张岗位职责卡——你是客服助手回复不超过两句语气客气user才是当班要办的具体工单——帮我总结这条差评。它回完的assistant消息还会回流进上下文下一轮才接得上。划清边界它和一次性 completion补全的区别在于——completion 是单轮、无角色、无历史回流Chat 用system管长期人设用多轮assistant消息记住上文。必修课里所有示例都封装了个辅助函数把messages列表发给 API 并顺带返回本次 Token 消耗让你每写一条指令都心里有账。Temperature同一 Prompt 的随机旋钮一句话定义控制采样随机性的参数temperature0趋近确定调高越发散。举例写发票摘要要它低答案唯一抖动就是噪声写产品文案调高一点同一条 Prompt 连跑三次能出三种风格。仓库示例默认temperature0就是为了让结果可复现。划清边界它最容易被误当成模型变蠢了。其实temperature调高 ≠ Prompt 写坏了——前者是采样随机性后者是指令问题。先固定temperature0复现再改指令你才分得清是运气的锅还是你写的锅。 卡点②它答非所问因为没读过你的资料定位模型的知识截止在训练那天也装不下你的私有文档。RAG检索增强生成的思路是先查资料再作答。Embedding把文字变成可比较的数一句话定义把文本压成一组数字意思越像这组数字就越接近。举例这条裤子版型偏大和尺码建议拍小一码这组数字靠得很近今天适合跑步吗离得老远。比谁像谁不再靠数关键词重合而是靠量这组数字的远近——这就是向量检索的地基。划清边界它和关键词检索的区别在于——关键词检索比字面重合遇到版型偏大去查尺码这种换说法的问法就漏了Embedding 比的是语义远近能接住换了表述的同义问题。切块与向量库资料怎么存一句话定义加载 → 切块split→ 向量化 → 入库四步一次性建好库。举例块太大检索回来一大坨噪声挤爆上下文块太小一句话被拦腰截断、语义没了。仓库在必修四用RecursiveCharacterTextSplitter设块大小再加重叠区间就是让切点尽量落在句子边界上。划清边界它和整篇塞给模型的区别在于——整篇丢进去既撑爆 Token 池又让模型抓不住重点。切块是离线动作决定资料怎么摆检索是线上动作决定答案怎么找。检索的坑重复入库、序号词失效一句话定义把用户问题转成向量在库里取出最相关的 k 块k常取 3~5连同问题一起交给 LLM 生成。举例同一个 PDF 重复入库会返回重复块问题里带了第三讲这种定位词向量搜索只认语义、不认序号直接答非所问。划清边界它和整篇上下文不同——RAG 只把最相关的几块带进 Prompt不改变模型本身知识可随时增删。选修课给的药方是查询扩展把问题改写成多个变体再搜 交叉编码器重排序对粗筛结果精排。 卡点③单步能跑多步一接就乱定位单点能力拼起来才成系统这一层解决多个步骤怎么串和状态怎么记。LangChain 与 Chain把步骤粘成流水线一句话定义Chain 把检索 → 填模板 → 调模型 → 解析输出这类步骤串成一条固定流水线。举例RAG 问答不用你手写胶水代码。框架有现成的RetrievalQA链把向量库和模型挂上去问一句话它自动完成检索、拼 Prompt、调模型、返回答案。划清边界它和手写 if-else 胶水的区别在于——不用框架时检索、拼接、解析每一步都要你自己写连接代码Chain 把这些粘好你只想换其中一环时再用 Prompt 模板加输出解析器Output Parser把自由文本掰成 JSON 或固定格式。Memory为什么它记不住上一句一句话定义Memory 负责多轮对话的状态让聊天机器人接得上话。举例Chain 管单次流程Memory 管上一句谁说了什么。没有 Memory你问它的价格呢模型不知道它指哪个。划清边界它和 Chain 的分工是——Chain 管一次请求内走完的固定路线Memory 管跨请求要留下的上下文。Agent让模型自己决定调哪个工具一句话定义给模型一个思考—行动—观察的循环让它自己决定调哪个工具。举例先想Reason再动手Action比如查搜索或算数把工具返回结果观察Observation进来再想再动直到给出答案。这就是 ReAct 范式。划清边界它和 RAG 单轮检索的区别在于——RAG 只查一次库就作答Agent 会循环调用多个工具路线是模型现场决策的灵活但更不可控也更容易跑偏用之前先想好兜底。️ 卡点④格式压不住还说不清改完好坏定位这一层解决模型不够用怎么办和怎么证明它变好了。微调把格式焊进参数一句话定义在自己的数据上再训一轮让模型适配特定格式或领域。举例客服回复永远要先道歉 → 给订单号 → 列三种售后选项这种硬格式用 Prompt 压不住就选微调。划清边界它和 Prompt 工程的区别在于——Prompt 只改这一次对话的输入微调改的是模型参数前者花的是 Token 钱后者花的是算力和数据。经验法则是先 RAG 后微调资料能检索到的优先检索检索也解决不了、且属于稳定格式或风格要求再动参数。评估怎么证明改完变好了一句话定义建一组标准问题用指标量化判断改 Prompt、换检索策略或微调后到底变好还是变坏。举例检索侧常用MAP、MRR、NDGC给召回质量打分生成侧用答案相关性上下文相关性给回答打分。有数字才敢上线。划清边界它和跑几个例子看看的区别在于——抽查是拍脑袋评估是固定一套题反复跑、横向对比改一处能立刻看出分数升还是降。️ 路线图⑤五站走完全程仓库把 11 门课分成必修四门、选修七门。可运行代码在 content/文字讲义在 docs/建议按下面顺序走每站给出入口、耗时和通过标准。必修一 · Prompt 入门1~2 周。入口必修一 Prompt Engineering。通过标准能给一个任务写出可复现、带评估样本的 Prompt。必修二 · API 搭问答系统2~3 周。入口必修二 ChatGPT API。通过标准能说清每次 API 调用的 Token 开销会做输入输出检查。必修三 · LangChain 编排2~3 周。入口必修三 LangChain。通过标准不手写胶水代码用组件拼出带记忆的问答链。必修四 · 个人数据问答RAG2~3 周。入口必修四 Chat with Your Data。通过标准把自己的 PDF 变成能问答的本地库并说得清相似性搜索的失败模式。选修 · 按兴趣挑各 1~2 周。想深挖检索Advanced Retrieval想玩提示技巧Advanced Prompting想动参数Finetuning LLM想上 AgentFunctions, Tools and Agents。今天就做这三件事拉仓库git clone https://gitcode.com/GitHub_Trending/ll/llm-cookbook配环境装好 Jupyter、申请一个 LLM API key参考 环境配置。打开必修一第 2 课照着重跑一遍示例亲手改两条指令看输出差异——跑通第一个 Notebook 的那一刻你就在这条链路上了。【免费下载链接】llm-cookbook面向开发者的 LLM 入门教程吴恩达大模型系列课程中文版项目地址: https://gitcode.com/GitHub_Trending/ll/llm-cookbook创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
