很多人想学大模型却不知道应该从哪里开始。今天学 Transformer明天学 LoRA后天又开始研究 Agent。各种教程收藏了一大堆结果真正让自己动手写一个项目却发现连完整的技术链路都说不清楚。问题不是资料不够而是缺少一条从基础知识到项目实战的学习路线。这篇文章整理了一套为期 8 周的大模型学习计划覆盖 Python、PyTorch、Transformer、RAG、Agent、开发框架和模型部署。目标不是 8 周成为大模型专家而是帮助你建立完整的知识框架并尝试独立完成能够运行、演示和讲解的 AI 应用项目。一、先看整体路线8周应该学什么先给出完整的学习安排。周次学习主题核心任务阶段成果第1周Python PyTorch掌握基础语法跑通神经网络一个简单的训练任务第2周Transformer理解 Attention 等核心模块一个简化版 Attention第3周RAG学习 Embedding、检索和生成文档知识库问答系统第4周Agent 基础学习工具调用、任务执行一个可以调用工具的助手第5周Agent 进阶学习 ReAct、MCP 等一个多步骤任务助手第6周开发框架学习 LangChain、LangGraph重构并完善 RAG 项目第7周模型部署使用 Ollama 等运行开源模型一个可本地访问的模型服务第8周项目收尾低代码原型、测试、文档和演示一个完整的项目作品需要注意这是一条面向 AI 应用开发的入门路线。如果你的目标是大模型算法工程师后续还需要深入学习机器学习、深度学习、预训练、微调、分布式训练、推理优化等内容。8 周计划不能替代这些长期积累。⭐为了方便大家学习我整理了大模型智能体学习路线和Agent 企业级项目合集以及大模型精选面试题还有大模型和人工智能教程需要的可以自取~二、第1周Python PyTorch先建立动手能力很多初学者容易犯一个错误在基础语法上花费太多时间却迟迟没有开始写 AI 代码。实际上学习大模型不要求你一开始就精通 Python但你至少要具备阅读、修改和调试代码的能力。1. Python 学什么建议优先掌握以下内容基础数据类型、变量和运算。条件判断、循环和函数。列表、字典、集合和元组。文件读写与异常处理。模块导入、虚拟环境和第三方库安装。基础的类与对象。对于后续的 RAG 和 Agent 项目还应该逐步接触 JSON、HTTP 请求、API 调用以及异步编程。2. 为什么要学习 PyTorchPyTorch 是常用的深度学习框架。即使你未来主要开发大模型应用也建议了解张量、自动求导、损失函数、反向传播和优化器。先理解一个基本的训练流程import torch import torch.nn as nn # 构造简单的训练数据y 2x 1 x torch.arange(1, 11, dtypetorch.float32).reshape(-1, 1) y 2 * x 1 # 定义一个简单的线性模型 model nn.Linear(1, 1) # 损失函数和优化器 criterion nn.MSELoss() optimizer torch.optim.SGD(model.parameters(), lr0.01) # 训练模型 for epoch in range(500): prediction model(x) loss criterion(prediction, y) optimizer.zero_grad() loss.backward() optimizer.step() print(预测结果, model(torch.tensor([[11.0]])).item())这段代码演示了一个完整的训练过程前向计算、计算损失、反向传播和参数更新。本周验收标准完成这一周后你至少应该能够独立创建 Python 虚拟环境并安装依赖。看懂简单的 PyTorch 训练代码。解释损失函数、梯度和优化器分别做什么。修改训练参数并观察训练结果的变化。学习资料PyTorch 官方教程Welcome to PyTorch Tutorials — PyTorch Tutorials 2.14.0cu130 documentationPython 官方教程Python 教程 — Python 3.15.0 文档三、第2周搞懂 Transformer不要只会背概念Transformer 是现代大语言模型的重要基础架构。但学习 Transformer 不意味着要一开始就逐字啃完论文。对于入门者更合理的方式是先理解整体结构再逐步拆解核心模块。1. 重点掌握四个知识点第一Self-Attention自注意力机制自注意力机制让模型能够根据当前任务需要计算序列中不同位置之间的关联程度。例如在句子“苹果发布了新手机”中模型可以利用上下文信息学习“苹果”与“发布”“手机”等词之间的关系。第二多头注意力Multi-Head Attention多个注意力头可以学习不同的关联模式。你可以先把它理解为模型通过多个并行的注意力计算从不同角度提取上下文信息。第三位置编码Positional Encoding由于注意力计算本身不直接包含序列顺序信息Transformer 需要通过位置相关机制让模型获得 token 的位置信息。不同模型采用的位置表示方案可能不同例如传统位置编码、RoPE 等。第四残差连接与归一化残差连接为信息和梯度提供更直接的传播路径归一化则有助于稳定网络训练。2. Attention 到底在计算什么经典的缩放点积注意力公式为\operatorname{softmax}\left(\frac{QK^\top}{\sqrt{d_k}}\right)V]其中(Q)Query查询向量。(K)Key键向量。(V)Value值向量。(d_k)Key 向量的维度。可以将计算过程拆成四步计算 (QK^\top)得到不同位置之间的关联分数。除以 (\sqrt{d_k})对分数进行缩放。通过 Softmax 将分数转换为归一化权重。使用权重对 (V) 进行加权求和得到上下文表示。3. 用 PyTorch 实现简化版 Attentionimport math import torch import torch.nn.functional as F def self_attention(x): # x 的形状[batch_size, seq_len, hidden_dim] batch_size, seq_len, hidden_dim x.shape # 简化处理直接用输入构造 Q、K、V q, k, v x, x, x scores torch.matmul(q, k.transpose(-2, -1)) scores scores / math.sqrt(hidden_dim) weights F.softmax(scores, dim-1) output torch.matmul(weights, v) return output x torch.randn(2, 5, 16) output self_attention(x) print(输入形状, x.shape) print(输出形状, output.shape)这只是用于理解计算过程的简化实现没有包含可学习的 Q、K、V 投影、多头拆分、因果掩码和完整的 Transformer 模块。本周验收标准你应该能够画出 Transformer 的基本结构图解释 Attention 的计算流程并能自己实现一个简化版本。学习资料The Illustrated TransformerThe Illustrated Transformer – Jay Alammar – Visualizing machine learning one concept at a time.Hugging Face 学习课程https://huggingface.co/learn四、第3周RAG 实战打造自己的知识库问答系统如果你的目标是 AI 应用开发那么 RAG 是非常值得优先学习的技术。RAG 的全称是 Retrieval-Augmented Generation即检索增强生成。它的核心思想是先从外部知识库检索相关信息再将检索结果交给大模型生成回答。为什么需要 RAG因为大模型可能不知道企业内部的最新制度、产品文档、项目资料也可能在回答具体问题时产生幻觉。通过检索外部资料应用可以为回答提供更相关的上下文并在设计合理的情况下展示答案来源。需要强调的是RAG 并不能保证答案绝对正确检索质量和生成质量都需要评估。1. RAG 的基本架构图解说明文档上传 → 文档解析 → 文本切分 → Embedding 向量化 → 向量数据库用户提问 → 查询向量化 → 相似度检索 → 拼接上下文 → 大模型生成答案 → 返回答案和引用来源。一个典型的 RAG 系统可以分为两个阶段。离线索引阶段加载 PDF、Word、Markdown 等文档。将文档切分成适合检索的文本块。使用 Embedding 模型将文本转换为向量。将向量、文本内容及元数据写入索引或向量数据库。在线问答阶段接收用户问题。对问题进行向量化。检索与问题相关的文本块。将问题和检索结果组合成提示词。调用大模型生成回答。返回答案并尽可能附上真实、可追溯的来源。2. 先搞懂三个核心概念Embedding把文本转换成向量。例如一段关于深度学习的文字可以转换成一个数值向量。语义相近的文本在合适的 Embedding 模型和相似度度量下通常更容易被检索到。向量检索找到与问题相关的内容。FAISS 是常用的向量相似度搜索库Milvus 则是面向向量数据检索的数据库系统。入门阶段选择一个即可不必同时学习多个工具。Prompt告诉大模型如何使用检索结果。例如可以要求模型优先依据提供的资料回答在资料不足时明确说明信息不足而不是随意编造。3. 第一个 RAG 项目应该怎么做推荐项目行业报告知识库问答系统。准备几十份合法获取的行业报告或技术文档实现以下功能支持文档上传和解析。支持文档切分和向量索引。支持自然语言提问。返回与问题相关的文档片段。展示答案对应的文档名称和页码等来源信息。当检索内容不足时提示用户补充资料。初期可以使用 FAISS 构建本地向量索引再接入 Embedding 模型和大模型 API。等基本链路跑通后再考虑更复杂的数据库、混合检索和重排序。4. RAG 的进阶优化方向项目跑通之后不要急着堆叠更多框架先思考以下问题文档切分方式是否合理检索结果是否真的包含答案如何结合关键词检索与向量检索是否需要 Reranker 对候选结果重新排序如何减少无关上下文对生成结果的干扰如何评估检索召回率、答案正确性和引用准确性学习资料RAGFlowGitHub - infiniflow/ragflow: RAGFlow is a leading open-source Retrieval-Augmented Generation (RAG) engine that fuses cutting-edge RAG with Agent capabilities to create a superior context layer for LLMs · GitHubQAnythingGitHub - netease-youdao/QAnything: Question and Answer based on Anything. · GitHubFAISSGitHub - facebookresearch/faiss: A library for efficient similarity search and clustering of dense vectors. · GitHubMilvusGitHub - milvus-io/milvus: Milvus is a high-performance, cloud-native vector database built for scalable vector ANN search · GitHub建议先完成一个最小可运行版本再阅读开源项目的文档解析、检索和工程化实现。五、第4—5周学习 Agent让大模型具备工具调用能力如果说 RAG 主要解决外部知识检索问题那么 Agent 更关注如何围绕目标组织任务、调用工具并根据执行结果继续推进工作。可以先使用一个便于入门的理解框架Agent 大模型 工具 状态管理 任务执行逻辑。记忆、规划、反思等能力可以根据任务需要逐步加入但并不是所有 Agent 都必须具备所有模块。1. 第一招Function CallingFunction Calling 通常指模型根据用户意图生成结构化的工具调用请求由应用程序执行工具再将执行结果交还给模型。例如用户提出“帮我查询昨天的销售额并生成一份日报。”系统可能需要调用数据库查询工具。获取查询结果。计算或整理统计指标。生成日报。将结果返回给用户。这里最关键的一点是模型负责决定如何提出工具调用请求真正执行数据库查询的仍然是应用程序。不要将模型生成的工具调用请求直接视为可信操作。执行端必须校验参数、检查权限并限制可访问的数据范围。2. 第二招ReActReAct 是一种将推理与行动结合起来的任务执行思路。可以将它理解为以下循环图解说明用户目标 → 模型分析当前任务 → 选择工具并执行 → 获得观察结果 → 更新任务状态 → 继续执行或输出答案。例如用户问“某款产品上个月的销量是多少与前一个月相比增长了多少”Agent 可能先查询两个月的数据再计算增长率最后整理结果。实际开发中应优先使用明确的工具接口和可观察的执行状态而不是依赖模型输出一长段无法验证的推理文本。3. 第三招MCPMCPModel Context Protocol是一种用于连接 AI 应用与外部工具、资源等能力的开放协议。初学者可以先理解三个概念Host承载 AI 交互的应用。Client在 Host 中负责与 MCP Server 通信的组件。Server向客户端提供工具、资源或提示模板等能力的服务端。你可以尝试编写一个简单的 MCP Server将本地文件查询、数据库查询等能力封装成工具再接入兼容 MCP 的客户端。需要注意MCP 不是 Agent 本身也不会自动赋予模型完整的自主规划能力。它主要解决能力如何以统一方式暴露和连接的问题。4. 实战项目企业日报 Agent推荐完成一个“企业日报助手”。项目流程如下用户输入日报需求。Agent 识别需要查询的数据。调用受权限控制的数据库工具。获取查询结果并进行必要的数据处理。生成日报内容。展示数据来源和执行状态。项目验收时需要特别检查权限、异常处理、日志记录以及查询结果是否准确。另外原始数据查询与数据修改应当采用不同的权限策略。涉及删除、更新或其他重要操作时应设置明确的授权与确认机制。学习资料Hello-AgentsGitHub - datawhalechina/hello-agents: 《从零开始构建智能体》——从零开始的智能体原理与实践教程 · GitHubMetaGPTGitHub - FoundationAgents/MetaGPT: The Multi-Agent Framework: First AI Software Company, Towards Natural Language Programming · GitHubMCP 官方文档What is the Model Context Protocol (MCP)? - Model Context Protocol建议先学习一个入门项目再研究多 Agent 协作、任务规划和复杂工作流。不要一开始就把项目做得过于复杂。六、第6周学习 LangChain LangGraph掌握工程化开发当你已经手写过 RAG 和简单的 Agent再学习开发框架会更有价值。否则很容易陷入一个误区代码可以运行但你不知道每个组件到底解决了什么问题。1. LangChain 主要解决什么问题LangChain 提供了构建大模型应用所需的多种组件与集成能力例如Models接入不同模型。Prompts组织提示词模板。Retrievers封装检索逻辑。Tools定义外部工具。Chains / Runnables组合处理步骤。具体 API 会随着框架版本迭代而变化因此建议围绕一个完整项目学习而不是单纯背诵 API 名称。2. LangGraph 适合解决什么问题当应用包含多步骤执行、条件分支、状态传递、循环和异常恢复时可以考虑使用 LangGraph 组织执行流程。例如一个企业知识库 Agent 可能需要图解说明接收问题 → 判断是否需要检索 → 检索知识库 → 判断是否需要调用工具 → 执行工具 → 汇总结果 → 返回答案。这种有状态的图结构能够让任务流程更加明确也便于调试和控制。3. 本周实战任务将第3周实现的 RAG 项目用 LangChain 重新组织。对比两种实现方式手写版本你需要自行组织模型调用、检索、提示词和结果处理。框架版本可以使用框架提供的组件和集成减少重复代码。重点不是哪种方式代码更少而是你是否理解各个组件的职责以及能否在检索效果不好时定位问题。另外可以通过 Hugging Face 的 Pipeline 熟悉预训练模型的基本调用方式。LoRA 则先理解低秩适配的基本思想、适用场景和局限性暂时不必急着进行大规模微调。学习资料LangChainLangChain overview - Docs by LangChainLangGraphLangGraph overview - Docs by LangChainHugging Facehttps://huggingface.co/docs/transformers/七、第7周模型部署让应用真正运行起来如果你的项目只能在自己的 Notebook 中运行还不能算完成了完整的应用开发。这一周的目标是理解模型运行、服务调用和基础推理优化。1. 使用 Ollama 运行开源模型Ollama 提供了便于本地运行开源模型的工具。安装完成后可以根据官方文档选择适合当前硬件的模型并尝试运行ollama pull qwen2.5:3b ollama run qwen2.5:3b这里的模型名称只是示例实际可用性取决于当前 Ollama 的模型库和本机配置。模型参数规模、量化方式和上下文长度都会影响内存占用与运行速度。接下来可以尝试将本地模型接入前面开发的知识库问答系统。这样就能进一步理解模型服务、应用逻辑和检索模块之间的关系。2. 三个值得掌握的推理优化知识点第一KV Cache。自回归模型在生成文本时需要利用之前 token 的 Key 和 Value。KV Cache 会缓存历史 token 的相关中间结果减少后续生成时的重复计算但也会增加显存或内存占用。第二PagedAttention。PagedAttention 是 vLLM 中采用的一种 KV Cache 内存管理机制。它借鉴分页管理思路改善 KV Cache 的内存分配与管理效率有助于提升大模型服务的吞吐能力。需要注意PagedAttention 并不是所有大模型推理系统都必须采用的技术也不等于 Transformer 的全部加速原理。第三模型量化。量化通常是通过降低部分数值的表示精度来减少模型权重或相关数据的存储开销并在合适的条件下提高推理效率。它本质上是在模型体积、计算效率、硬件适配与精度之间做权衡。不同量化方法的效果并不相同。本周验收标准能够在本地运行一个开源模型。能够解释 KV Cache、PagedAttention 和量化的基本原理。能够将本地模型或远程模型服务接入自己的应用。能够排查模型加载失败、内存不足和接口调用异常等常见问题。学习资料OllamaOllama · Run AI models locally and in the cloudvLLMvLLM八、第8周低代码原型 项目收尾前面几周主要学习底层原理和代码实现最后一周要把知识转化为一个完整的作品。可以尝试使用 Dify 或 Coze 搭建一个低代码工作流。例如上传文档并构建知识库。根据用户问题检索相关内容。调用模型生成回答。对输出结果进行格式整理。将结果展示给用户。低代码工具适合快速验证想法但不能代替对底层原理的理解。如果项目出了问题你至少需要知道该检查输入数据、检索结果、模型响应还是工作流中的某个节点。1. 最终项目应该具备哪些能力建议围绕一个完整的 RAG 或 Agent 项目进行收尾。功能层面核心流程可以正常运行。输入异常时有合理提示。能够展示主要执行步骤。RAG 项目能够展示真实的检索来源。工程层面依赖与环境配置清楚。有 README 和必要的启动说明。关键配置通过环境变量管理。不在代码或公开仓库中泄露 API Key。有基本日志、错误处理和测试。展示层面有清晰的项目背景。能解释技术选型。能展示运行效果。能讲清楚遇到的问题和解决思路。能说明当前方案的不足以及后续优化方向。这些内容比单纯在项目介绍中堆砌“多 Agent、RAG、MCP、向量数据库”等关键词更有价值。九、学完8周之后如何准备大模型面试项目完成之后不要只顾着继续学习新框架。还需要针对目标岗位系统整理基础知识和项目经验。1. 按专题准备高频问题专题需要掌握的问题TransformerAttention 为什么需要缩放位置编码解决什么问题RAG文本如何切分Embedding 如何选择检索效果如何评估RAG 优化混合检索、Reranker、查询改写分别适合什么场景大模型幻觉幻觉有哪些来源检索增强和输出约束能解决什么问题Agent工具调用如何执行如何管理状态、权限和异常MCPHost、Client、Server 分别承担什么职责微调SFT 和 LoRA 分别解决什么问题什么时候需要微调推理部署KV Cache、量化和批处理如何影响资源占用与吞吐量不要把所有问题都当成背诵题。真正有效的学习方式是结合自己的代码和实验解释技术选择。2. 算法题需要准备到什么程度如果你准备的是 AI 应用开发岗位可以根据目标公司的招聘要求安排算法练习例如数组、哈希表、链表、二叉树、搜索和动态规划等常见题型。LeetCode Hot 100 可以作为练习清单但不应当机械刷完就算达标。如果目标是大模型算法研究或训练岗位还需要进一步强化数学基础、机器学习、深度学习和相关算法实现能力。3. 项目讲解比项目数量更重要每个项目都建议提前准备以下内容项目背景为什么要解决这个问题实际需求是什么技术选型为什么使用 RAG为什么选择某种 Embedding 模型或向量检索工具核心实现数据如何流转关键模块之间如何协作问题排查遇到过哪些错误如何定位和解决效果评估用什么方法衡量检索质量、回答质量和运行成本后续优化如果重新实现你会优先改进哪些地方面试官并不只是想知道你用过哪些技术更想确认你是否理解这些技术以及能否独立解决实际问题。十、最后总结8周入门大模型关键是建立完整的技术闭环回顾这条学习路线你会发现它并不是让你同时学习几十种框架而是按照从基础到应用的顺序逐步完成几个关键任务。第1—2周理解基础编程和 Transformer 核心原理。第3周跑通 RAG从文档到答案建立完整链路。第4—5周掌握工具调用和 Agent 的基本执行逻辑。第6周利用框架提高开发效率。第7周理解模型部署与推理优化。第8周完善项目、测试、文档和演示。真正重要的不是你看完了多少教程而是你能不能独立跑通一个项目解释每个模块为什么存在并且在出现问题时找到原因。如果你正在准备转行 AI 应用开发可以先从一个小型知识库问答系统开始。等你理解了文档解析、向量检索、模型调用和结果评估再逐步加入工具调用、工作流和 Agent 能力。不要急着追逐所有新技术。先完成一个项目再迭代第二个项目持续积累可验证的工程经验。
很多人想学大模型却不知道应该从哪里开始。今天学 Transformer明天学 LoRA后天又开始研究 Agent。各种教程收藏了一大堆结果真正让自己动手写一个项目却发现连完整的技术链路都说不清楚。问题不是资料不够而是缺少一条从基础知识到项目实战的学习路线。这篇文章整理了一套为期 8 周的大模型学习计划覆盖 Python、PyTorch、Transformer、RAG、Agent、开发框架和模型部署。目标不是 8 周成为大模型专家而是帮助你建立完整的知识框架并尝试独立完成能够运行、演示和讲解的 AI 应用项目。一、先看整体路线8周应该学什么先给出完整的学习安排。周次学习主题核心任务阶段成果第1周Python PyTorch掌握基础语法跑通神经网络一个简单的训练任务第2周Transformer理解 Attention 等核心模块一个简化版 Attention第3周RAG学习 Embedding、检索和生成文档知识库问答系统第4周Agent 基础学习工具调用、任务执行一个可以调用工具的助手第5周Agent 进阶学习 ReAct、MCP 等一个多步骤任务助手第6周开发框架学习 LangChain、LangGraph重构并完善 RAG 项目第7周模型部署使用 Ollama 等运行开源模型一个可本地访问的模型服务第8周项目收尾低代码原型、测试、文档和演示一个完整的项目作品需要注意这是一条面向 AI 应用开发的入门路线。如果你的目标是大模型算法工程师后续还需要深入学习机器学习、深度学习、预训练、微调、分布式训练、推理优化等内容。8 周计划不能替代这些长期积累。⭐为了方便大家学习我整理了大模型智能体学习路线和Agent 企业级项目合集以及大模型精选面试题还有大模型和人工智能教程需要的可以自取~二、第1周Python PyTorch先建立动手能力很多初学者容易犯一个错误在基础语法上花费太多时间却迟迟没有开始写 AI 代码。实际上学习大模型不要求你一开始就精通 Python但你至少要具备阅读、修改和调试代码的能力。1. Python 学什么建议优先掌握以下内容基础数据类型、变量和运算。条件判断、循环和函数。列表、字典、集合和元组。文件读写与异常处理。模块导入、虚拟环境和第三方库安装。基础的类与对象。对于后续的 RAG 和 Agent 项目还应该逐步接触 JSON、HTTP 请求、API 调用以及异步编程。2. 为什么要学习 PyTorchPyTorch 是常用的深度学习框架。即使你未来主要开发大模型应用也建议了解张量、自动求导、损失函数、反向传播和优化器。先理解一个基本的训练流程import torch import torch.nn as nn # 构造简单的训练数据y 2x 1 x torch.arange(1, 11, dtypetorch.float32).reshape(-1, 1) y 2 * x 1 # 定义一个简单的线性模型 model nn.Linear(1, 1) # 损失函数和优化器 criterion nn.MSELoss() optimizer torch.optim.SGD(model.parameters(), lr0.01) # 训练模型 for epoch in range(500): prediction model(x) loss criterion(prediction, y) optimizer.zero_grad() loss.backward() optimizer.step() print(预测结果, model(torch.tensor([[11.0]])).item())这段代码演示了一个完整的训练过程前向计算、计算损失、反向传播和参数更新。本周验收标准完成这一周后你至少应该能够独立创建 Python 虚拟环境并安装依赖。看懂简单的 PyTorch 训练代码。解释损失函数、梯度和优化器分别做什么。修改训练参数并观察训练结果的变化。学习资料PyTorch 官方教程Welcome to PyTorch Tutorials — PyTorch Tutorials 2.14.0cu130 documentationPython 官方教程Python 教程 — Python 3.15.0 文档三、第2周搞懂 Transformer不要只会背概念Transformer 是现代大语言模型的重要基础架构。但学习 Transformer 不意味着要一开始就逐字啃完论文。对于入门者更合理的方式是先理解整体结构再逐步拆解核心模块。1. 重点掌握四个知识点第一Self-Attention自注意力机制自注意力机制让模型能够根据当前任务需要计算序列中不同位置之间的关联程度。例如在句子“苹果发布了新手机”中模型可以利用上下文信息学习“苹果”与“发布”“手机”等词之间的关系。第二多头注意力Multi-Head Attention多个注意力头可以学习不同的关联模式。你可以先把它理解为模型通过多个并行的注意力计算从不同角度提取上下文信息。第三位置编码Positional Encoding由于注意力计算本身不直接包含序列顺序信息Transformer 需要通过位置相关机制让模型获得 token 的位置信息。不同模型采用的位置表示方案可能不同例如传统位置编码、RoPE 等。第四残差连接与归一化残差连接为信息和梯度提供更直接的传播路径归一化则有助于稳定网络训练。2. Attention 到底在计算什么经典的缩放点积注意力公式为\operatorname{softmax}\left(\frac{QK^\top}{\sqrt{d_k}}\right)V]其中(Q)Query查询向量。(K)Key键向量。(V)Value值向量。(d_k)Key 向量的维度。可以将计算过程拆成四步计算 (QK^\top)得到不同位置之间的关联分数。除以 (\sqrt{d_k})对分数进行缩放。通过 Softmax 将分数转换为归一化权重。使用权重对 (V) 进行加权求和得到上下文表示。3. 用 PyTorch 实现简化版 Attentionimport math import torch import torch.nn.functional as F def self_attention(x): # x 的形状[batch_size, seq_len, hidden_dim] batch_size, seq_len, hidden_dim x.shape # 简化处理直接用输入构造 Q、K、V q, k, v x, x, x scores torch.matmul(q, k.transpose(-2, -1)) scores scores / math.sqrt(hidden_dim) weights F.softmax(scores, dim-1) output torch.matmul(weights, v) return output x torch.randn(2, 5, 16) output self_attention(x) print(输入形状, x.shape) print(输出形状, output.shape)这只是用于理解计算过程的简化实现没有包含可学习的 Q、K、V 投影、多头拆分、因果掩码和完整的 Transformer 模块。本周验收标准你应该能够画出 Transformer 的基本结构图解释 Attention 的计算流程并能自己实现一个简化版本。学习资料The Illustrated TransformerThe Illustrated Transformer – Jay Alammar – Visualizing machine learning one concept at a time.Hugging Face 学习课程https://huggingface.co/learn四、第3周RAG 实战打造自己的知识库问答系统如果你的目标是 AI 应用开发那么 RAG 是非常值得优先学习的技术。RAG 的全称是 Retrieval-Augmented Generation即检索增强生成。它的核心思想是先从外部知识库检索相关信息再将检索结果交给大模型生成回答。为什么需要 RAG因为大模型可能不知道企业内部的最新制度、产品文档、项目资料也可能在回答具体问题时产生幻觉。通过检索外部资料应用可以为回答提供更相关的上下文并在设计合理的情况下展示答案来源。需要强调的是RAG 并不能保证答案绝对正确检索质量和生成质量都需要评估。1. RAG 的基本架构图解说明文档上传 → 文档解析 → 文本切分 → Embedding 向量化 → 向量数据库用户提问 → 查询向量化 → 相似度检索 → 拼接上下文 → 大模型生成答案 → 返回答案和引用来源。一个典型的 RAG 系统可以分为两个阶段。离线索引阶段加载 PDF、Word、Markdown 等文档。将文档切分成适合检索的文本块。使用 Embedding 模型将文本转换为向量。将向量、文本内容及元数据写入索引或向量数据库。在线问答阶段接收用户问题。对问题进行向量化。检索与问题相关的文本块。将问题和检索结果组合成提示词。调用大模型生成回答。返回答案并尽可能附上真实、可追溯的来源。2. 先搞懂三个核心概念Embedding把文本转换成向量。例如一段关于深度学习的文字可以转换成一个数值向量。语义相近的文本在合适的 Embedding 模型和相似度度量下通常更容易被检索到。向量检索找到与问题相关的内容。FAISS 是常用的向量相似度搜索库Milvus 则是面向向量数据检索的数据库系统。入门阶段选择一个即可不必同时学习多个工具。Prompt告诉大模型如何使用检索结果。例如可以要求模型优先依据提供的资料回答在资料不足时明确说明信息不足而不是随意编造。3. 第一个 RAG 项目应该怎么做推荐项目行业报告知识库问答系统。准备几十份合法获取的行业报告或技术文档实现以下功能支持文档上传和解析。支持文档切分和向量索引。支持自然语言提问。返回与问题相关的文档片段。展示答案对应的文档名称和页码等来源信息。当检索内容不足时提示用户补充资料。初期可以使用 FAISS 构建本地向量索引再接入 Embedding 模型和大模型 API。等基本链路跑通后再考虑更复杂的数据库、混合检索和重排序。4. RAG 的进阶优化方向项目跑通之后不要急着堆叠更多框架先思考以下问题文档切分方式是否合理检索结果是否真的包含答案如何结合关键词检索与向量检索是否需要 Reranker 对候选结果重新排序如何减少无关上下文对生成结果的干扰如何评估检索召回率、答案正确性和引用准确性学习资料RAGFlowGitHub - infiniflow/ragflow: RAGFlow is a leading open-source Retrieval-Augmented Generation (RAG) engine that fuses cutting-edge RAG with Agent capabilities to create a superior context layer for LLMs · GitHubQAnythingGitHub - netease-youdao/QAnything: Question and Answer based on Anything. · GitHubFAISSGitHub - facebookresearch/faiss: A library for efficient similarity search and clustering of dense vectors. · GitHubMilvusGitHub - milvus-io/milvus: Milvus is a high-performance, cloud-native vector database built for scalable vector ANN search · GitHub建议先完成一个最小可运行版本再阅读开源项目的文档解析、检索和工程化实现。五、第4—5周学习 Agent让大模型具备工具调用能力如果说 RAG 主要解决外部知识检索问题那么 Agent 更关注如何围绕目标组织任务、调用工具并根据执行结果继续推进工作。可以先使用一个便于入门的理解框架Agent 大模型 工具 状态管理 任务执行逻辑。记忆、规划、反思等能力可以根据任务需要逐步加入但并不是所有 Agent 都必须具备所有模块。1. 第一招Function CallingFunction Calling 通常指模型根据用户意图生成结构化的工具调用请求由应用程序执行工具再将执行结果交还给模型。例如用户提出“帮我查询昨天的销售额并生成一份日报。”系统可能需要调用数据库查询工具。获取查询结果。计算或整理统计指标。生成日报。将结果返回给用户。这里最关键的一点是模型负责决定如何提出工具调用请求真正执行数据库查询的仍然是应用程序。不要将模型生成的工具调用请求直接视为可信操作。执行端必须校验参数、检查权限并限制可访问的数据范围。2. 第二招ReActReAct 是一种将推理与行动结合起来的任务执行思路。可以将它理解为以下循环图解说明用户目标 → 模型分析当前任务 → 选择工具并执行 → 获得观察结果 → 更新任务状态 → 继续执行或输出答案。例如用户问“某款产品上个月的销量是多少与前一个月相比增长了多少”Agent 可能先查询两个月的数据再计算增长率最后整理结果。实际开发中应优先使用明确的工具接口和可观察的执行状态而不是依赖模型输出一长段无法验证的推理文本。3. 第三招MCPMCPModel Context Protocol是一种用于连接 AI 应用与外部工具、资源等能力的开放协议。初学者可以先理解三个概念Host承载 AI 交互的应用。Client在 Host 中负责与 MCP Server 通信的组件。Server向客户端提供工具、资源或提示模板等能力的服务端。你可以尝试编写一个简单的 MCP Server将本地文件查询、数据库查询等能力封装成工具再接入兼容 MCP 的客户端。需要注意MCP 不是 Agent 本身也不会自动赋予模型完整的自主规划能力。它主要解决能力如何以统一方式暴露和连接的问题。4. 实战项目企业日报 Agent推荐完成一个“企业日报助手”。项目流程如下用户输入日报需求。Agent 识别需要查询的数据。调用受权限控制的数据库工具。获取查询结果并进行必要的数据处理。生成日报内容。展示数据来源和执行状态。项目验收时需要特别检查权限、异常处理、日志记录以及查询结果是否准确。另外原始数据查询与数据修改应当采用不同的权限策略。涉及删除、更新或其他重要操作时应设置明确的授权与确认机制。学习资料Hello-AgentsGitHub - datawhalechina/hello-agents: 《从零开始构建智能体》——从零开始的智能体原理与实践教程 · GitHubMetaGPTGitHub - FoundationAgents/MetaGPT: The Multi-Agent Framework: First AI Software Company, Towards Natural Language Programming · GitHubMCP 官方文档What is the Model Context Protocol (MCP)? - Model Context Protocol建议先学习一个入门项目再研究多 Agent 协作、任务规划和复杂工作流。不要一开始就把项目做得过于复杂。六、第6周学习 LangChain LangGraph掌握工程化开发当你已经手写过 RAG 和简单的 Agent再学习开发框架会更有价值。否则很容易陷入一个误区代码可以运行但你不知道每个组件到底解决了什么问题。1. LangChain 主要解决什么问题LangChain 提供了构建大模型应用所需的多种组件与集成能力例如Models接入不同模型。Prompts组织提示词模板。Retrievers封装检索逻辑。Tools定义外部工具。Chains / Runnables组合处理步骤。具体 API 会随着框架版本迭代而变化因此建议围绕一个完整项目学习而不是单纯背诵 API 名称。2. LangGraph 适合解决什么问题当应用包含多步骤执行、条件分支、状态传递、循环和异常恢复时可以考虑使用 LangGraph 组织执行流程。例如一个企业知识库 Agent 可能需要图解说明接收问题 → 判断是否需要检索 → 检索知识库 → 判断是否需要调用工具 → 执行工具 → 汇总结果 → 返回答案。这种有状态的图结构能够让任务流程更加明确也便于调试和控制。3. 本周实战任务将第3周实现的 RAG 项目用 LangChain 重新组织。对比两种实现方式手写版本你需要自行组织模型调用、检索、提示词和结果处理。框架版本可以使用框架提供的组件和集成减少重复代码。重点不是哪种方式代码更少而是你是否理解各个组件的职责以及能否在检索效果不好时定位问题。另外可以通过 Hugging Face 的 Pipeline 熟悉预训练模型的基本调用方式。LoRA 则先理解低秩适配的基本思想、适用场景和局限性暂时不必急着进行大规模微调。学习资料LangChainLangChain overview - Docs by LangChainLangGraphLangGraph overview - Docs by LangChainHugging Facehttps://huggingface.co/docs/transformers/七、第7周模型部署让应用真正运行起来如果你的项目只能在自己的 Notebook 中运行还不能算完成了完整的应用开发。这一周的目标是理解模型运行、服务调用和基础推理优化。1. 使用 Ollama 运行开源模型Ollama 提供了便于本地运行开源模型的工具。安装完成后可以根据官方文档选择适合当前硬件的模型并尝试运行ollama pull qwen2.5:3b ollama run qwen2.5:3b这里的模型名称只是示例实际可用性取决于当前 Ollama 的模型库和本机配置。模型参数规模、量化方式和上下文长度都会影响内存占用与运行速度。接下来可以尝试将本地模型接入前面开发的知识库问答系统。这样就能进一步理解模型服务、应用逻辑和检索模块之间的关系。2. 三个值得掌握的推理优化知识点第一KV Cache。自回归模型在生成文本时需要利用之前 token 的 Key 和 Value。KV Cache 会缓存历史 token 的相关中间结果减少后续生成时的重复计算但也会增加显存或内存占用。第二PagedAttention。PagedAttention 是 vLLM 中采用的一种 KV Cache 内存管理机制。它借鉴分页管理思路改善 KV Cache 的内存分配与管理效率有助于提升大模型服务的吞吐能力。需要注意PagedAttention 并不是所有大模型推理系统都必须采用的技术也不等于 Transformer 的全部加速原理。第三模型量化。量化通常是通过降低部分数值的表示精度来减少模型权重或相关数据的存储开销并在合适的条件下提高推理效率。它本质上是在模型体积、计算效率、硬件适配与精度之间做权衡。不同量化方法的效果并不相同。本周验收标准能够在本地运行一个开源模型。能够解释 KV Cache、PagedAttention 和量化的基本原理。能够将本地模型或远程模型服务接入自己的应用。能够排查模型加载失败、内存不足和接口调用异常等常见问题。学习资料OllamaOllama · Run AI models locally and in the cloudvLLMvLLM八、第8周低代码原型 项目收尾前面几周主要学习底层原理和代码实现最后一周要把知识转化为一个完整的作品。可以尝试使用 Dify 或 Coze 搭建一个低代码工作流。例如上传文档并构建知识库。根据用户问题检索相关内容。调用模型生成回答。对输出结果进行格式整理。将结果展示给用户。低代码工具适合快速验证想法但不能代替对底层原理的理解。如果项目出了问题你至少需要知道该检查输入数据、检索结果、模型响应还是工作流中的某个节点。1. 最终项目应该具备哪些能力建议围绕一个完整的 RAG 或 Agent 项目进行收尾。功能层面核心流程可以正常运行。输入异常时有合理提示。能够展示主要执行步骤。RAG 项目能够展示真实的检索来源。工程层面依赖与环境配置清楚。有 README 和必要的启动说明。关键配置通过环境变量管理。不在代码或公开仓库中泄露 API Key。有基本日志、错误处理和测试。展示层面有清晰的项目背景。能解释技术选型。能展示运行效果。能讲清楚遇到的问题和解决思路。能说明当前方案的不足以及后续优化方向。这些内容比单纯在项目介绍中堆砌“多 Agent、RAG、MCP、向量数据库”等关键词更有价值。九、学完8周之后如何准备大模型面试项目完成之后不要只顾着继续学习新框架。还需要针对目标岗位系统整理基础知识和项目经验。1. 按专题准备高频问题专题需要掌握的问题TransformerAttention 为什么需要缩放位置编码解决什么问题RAG文本如何切分Embedding 如何选择检索效果如何评估RAG 优化混合检索、Reranker、查询改写分别适合什么场景大模型幻觉幻觉有哪些来源检索增强和输出约束能解决什么问题Agent工具调用如何执行如何管理状态、权限和异常MCPHost、Client、Server 分别承担什么职责微调SFT 和 LoRA 分别解决什么问题什么时候需要微调推理部署KV Cache、量化和批处理如何影响资源占用与吞吐量不要把所有问题都当成背诵题。真正有效的学习方式是结合自己的代码和实验解释技术选择。2. 算法题需要准备到什么程度如果你准备的是 AI 应用开发岗位可以根据目标公司的招聘要求安排算法练习例如数组、哈希表、链表、二叉树、搜索和动态规划等常见题型。LeetCode Hot 100 可以作为练习清单但不应当机械刷完就算达标。如果目标是大模型算法研究或训练岗位还需要进一步强化数学基础、机器学习、深度学习和相关算法实现能力。3. 项目讲解比项目数量更重要每个项目都建议提前准备以下内容项目背景为什么要解决这个问题实际需求是什么技术选型为什么使用 RAG为什么选择某种 Embedding 模型或向量检索工具核心实现数据如何流转关键模块之间如何协作问题排查遇到过哪些错误如何定位和解决效果评估用什么方法衡量检索质量、回答质量和运行成本后续优化如果重新实现你会优先改进哪些地方面试官并不只是想知道你用过哪些技术更想确认你是否理解这些技术以及能否独立解决实际问题。十、最后总结8周入门大模型关键是建立完整的技术闭环回顾这条学习路线你会发现它并不是让你同时学习几十种框架而是按照从基础到应用的顺序逐步完成几个关键任务。第1—2周理解基础编程和 Transformer 核心原理。第3周跑通 RAG从文档到答案建立完整链路。第4—5周掌握工具调用和 Agent 的基本执行逻辑。第6周利用框架提高开发效率。第7周理解模型部署与推理优化。第8周完善项目、测试、文档和演示。真正重要的不是你看完了多少教程而是你能不能独立跑通一个项目解释每个模块为什么存在并且在出现问题时找到原因。如果你正在准备转行 AI 应用开发可以先从一个小型知识库问答系统开始。等你理解了文档解析、向量检索、模型调用和结果评估再逐步加入工具调用、工作流和 Agent 能力。不要急着追逐所有新技术。先完成一个项目再迭代第二个项目持续积累可验证的工程经验。
