当你准备系统性学习 AI Agent 开发时很容易陷入一种“资料越多越不知道从哪开始”的状态。网上关于 RAG、MCP、LangChain、LangGraph 的教程数量庞大但大多数只讲了某个孤立的概念比如“怎么调用一次大模型”或者“怎么封装一个函数工具”。真正到了要做一个能回答问题、能调用工具、能处理多轮对话、能被放进企业业务里的 Agent 时很多人会发现思路是断的。这也是为什么今天想聊一套更完整的 AI Agent 学习主线。不是推荐“看完视频就能成为专家”而是帮你把 Agent 开发需要用到的核心知识点拆开看清楚每个技术解决什么问题、彼此之间怎么组合以及从学习到落地之间隔着哪些坑。如果你正准备投入 AI Agent 开发或者已经在做 RAG 应用、LangChain 项目但总觉得缺一块拼图那么这篇文章值得读完。1. 学习 AI Agent 前先想清楚你到底要解决什么问题很多人在学习 Agent 开发时的第一个误区是把“Agent”当成一个新鲜、神秘的东西去追逐。看到一个演示视频Agent 能自动规划步骤、调用工具、完成任务就觉得这是某种“超级智能”于是开始到处找教程想把它复现出来。但从实际开发角度讲Agent 的本质并不玄学。它就是“大模型 任务拆解 工具调用 记忆管理 执行回路”的组合。模型的推理能力负责读懂用户意图外层代码负责把意图转化成可执行的步骤工具让模型能够获取实时数据、操作业务系统记忆让它在多轮对话中不“失忆”。所以学习 Agent 首先要问自己的不是“Agent 是什么”而是“我要做的东西复杂在哪”。这里我把常见的 Agent 项目分成三类你可以对照自己属于哪一种第一类是问答增强型。比如企业内部知识库问答、文档检索助手、电商客服机器人。这类项目最核心的技术是 RAG重点在于检索质量、文档解析、引用溯源。它们的“Agent 感”不强因为流程相对固定用户问问题系统查资料大模型组织答案。第二类是任务执行型。比如自动化报表生成、运维日志分析、代码审查助手、数据分析 Agent。这类项目的关键是有“工具”概念Agent 要能调用搜索、SQL 查询、内部 API 或外部服务。MCP 的价值在此时就体现出来了它把工具接入方式统一了。第三类是复杂流程编排型。比如多步骤业务办理、审批决策、需要分阶段执行的智能体。这类项目往往涉及状态管理、条件分支、循环和人工介入LangGraph 这一类图编排框架就显得很必要。搞清楚自己属于哪一类学习的优先级就清楚了。做知识库问答先深挖 RAG做自动化工具型 Agent先研究工具调用和 MCP做复杂流程再把 LangGraph 的图编排能力学好。2. RAG、MCP、LangChain、LangGraph 到底解决什么问题在 AI Agent 相关讨论里RAG、MCP、LangChain、LangGraph 四个词反复出现。很多初学者以为它们属于同一个维度的技术要么是替代关系要么是可以随便混着用的同名概念。这个理解会直接影响学习路径的清晰度。先做一个类比。如果把 Agent 比作一家公司RAG 是公司的资料库。公司员工回答问题前先从资料库里查到相关资料再基于资料作答避免凭空编造。MCP 是公司统一的接口规范。每个外部服务订餐平台、天气系统、内部 OA都按同一种方式对接员工不需要分别学习每个服务的使用方法。LangChain 像是一套通用办公工具集。它把调用模型、处理文本、对接向量库、设计提示词这些常见动作封装成模块让开发效率更高。LangGraph 更像是业务流程管理系统。它定义了任务从“开始”到“结束”的路径包括分几步走、什么时候找哪个部门、遇到异常怎么办。从技术层面看四者的分工如下技术解决的问题核心价值典型适用场景RAG让模型基于私有知识回答降低幻觉知识可更新知识库问答、文档分析MCP统一模型与外部工具的通信方式工具接入标准化避免重复开发多工具集成、跨系统调用LangChain提供大模型应用的常用组件提高开发效率降低编码成本快速原型、组件组合LangGraph管理 Agent 的状态与执行流程支持复杂分支、循环、人工介入多步骤业务 Agent、工作流从这个角度看四者不是竞争关系而是不同层级的基础设施。一个企业级 Agent 项目完全可能同时使用 RAG 做知识增强、MCP 接工具、LangChain 做组件封装、LangGraph 做流程管理。明白了它们的分工学习时就不会“东一榔头西一棒子”。3. RAG 不是“连上向量库就行”检索质量决定上限RAG 是很多人接触 AI Agent 开发的第一步因为它的目标非常明确让大模型基于你自己的文档回答。企业里最常见的使用场景是员工手册问答、产品文档检索、制度法规查询。一个标准的 RAG 流程通常包含五个环节文档加载、文本切分、向量化、检索召回、生成回答。如果通过入门文档一步步跟下来半小时就能跑通一个 demo。但真实项目里demo 能回答的问题和系统能实际使用的差距往往就藏在检索质量里。常见的检索问题有三个第一文本切分不合理。如果直接按固定字符数切分可能会把一个完整的业务规则拆成两段导致检索时召回的片段语义不完整。更合理的做法是按照文档结构章节、段落优先切分再配合重叠窗口保留上下文信息。第二Embedding 模型没有针对业务领域调优。通用向量模型对法律、医疗、工业等垂直领域的专业表述理解有限。如果业务文档里大量出现专有名词建议在实测后评估是否需要引入领域微调的 Embedding 模型或者至少做一个词汇层面的扩充映射。第三检索策略太单一。很多入门项目只做“向量相似度召回”但实际业务里精确的关键词匹配、结构化过滤条件比如时间、部门、文档类型同样重要。更稳定的方案往往是多路召回向量检索 关键词检索 元数据过滤然后对结果做重排。除了检索回答的可追溯性也很关键。企业用户在使用知识库问答时会要求 Agent 给出答案时标明来源。这意味着 RAG 应用在构造 Prompt 时要把检索到的原文段落和文档位置一起传给大模型而不是只把文本内容塞进去。下面是一个简化版的 RAG 检索流程示例展示向量检索 元数据过滤的基本思路# 简化示例展示 RAG 中“检索召回”环节的核心逻辑 # 实际项目中建议使用更完善的向量数据库与管理组件 from typing import List, Dict def retrieve_documents(query_embedding: List[float], collection_embeddings: List[Dict], top_k: int 5, metadata_filter: Dict None) - List[Dict]: 演示多路召回中的向量检索逻辑并支持元数据过滤。 实际生产中建议使用 FAISS、Milvus 或 Elasticsearch 向量检索能力。 scored_docs [] for item in collection_embeddings: # 此处省略向量相似度计算细节 score _cosine_similarity(query_embedding, item[embedding]) # 元数据过滤 if metadata_filter: if not all(item[metadata].get(key) value for key, value in metadata_filter.items()): continue scored_docs.append({ doc_id: item[doc_id], text: item[text], source: item[source], score: score }) scored_docs.sort(keylambda x: x[score], reverseTrue) return scored_docs[:top_k]这段代码不是完整的生产实现但它展示了 RAG 开发中的一个关键思想不要只把“最相似”的文本找出来还要带上来源信息并允许通过过滤条件缩小范围。这也是 RAG 在真实项目中做得扎实与否的分水岭。4. MCP为什么工具接入方式突然变得重要在 Agent 开发中让大模型调用工具是一个绕不开的难题。早期做法是每个项目自己定义一套 Function Calling 的 JSON Schema然后通过代码逻辑判断“模型想调用哪个函数”再把函数返回结果喂回给模型。这种做法在工具数量少、项目独立的时候问题不大。但当企业内部有几十个系统、上百个工具接口时问题就暴露了每个系统都要定制一套接入逻辑接口变更又要重新适配。整个链路像是一团乱麻。MCPModel Context Protocol的出现就是想把这件事标准化。它把大模型应用与工具之间的通信抽象成一种类似“USB 接口”的协议。工具的提供方只需要实现一套 MCP Server模型的消费方通过 MCP Client 去发现工具、调用工具、接收结果。两边不需要再针对彼此单独适配。MCP 的核心价值可以概括为三点第一工具接入标准化。开发者不用关心底层是 REST API、数据库还是文件系统MCP Server 统一暴露成标准化的工具列表。第二动态能力发现。MCP Client 可以实时获取 Server 提供的工具清单、参数描述、调用方式这让 Agent 在运行期能够自动感知可用工具而不是把工具清单硬编码在代码里。第三生态复用。一个 MCP Server 写好后可以在不同 Agent 项目中复用相当于把工具从“一次定制”变成了“可复用资产”。对于企业开发者来说MCP 还有一层现实意义它能把 Agent 与内部系统的对接边界划清楚。团队 A 负责某个业务系统的 MCP Server团队 B 负责 Agent 应用两边只要遵守协议就能协作这比互相等对方改接口高效得多。当然MCP 也不是银弹。协议本身还在快速演进工具调用过程中的鉴权、审计、流量控制都需要企业自己设计方案。但在 2026 年这个节点掌握 MCP 已经是 Agent 开发者的基本功之一。5. LangChain 与 LangGraph一个像工具箱一个像流程引擎LangChain 和 LangGraph 虽然同属 LangChain 生态但定位差异很大。不少入门者会把它们混为一谈实际是两种不同的抽象层次。LangChain 更像一个“大模型应用工具箱”。它提供了 Prompt 模板、模型封装、输出解析、记忆管理、向量存储对接等组件让开发者不必每次从零开始写调用代码。如果你的项目是相对线性的流程比如“读取用户问题 - 拼 Prompt - 调用模型 - 返回回答”LangChain 能帮上很大忙。LangGraph 则是一个“状态化流程引擎”。它关注的是 Agent 在执行过程中的状态流转。你可以把 Agent 的定义理解为一张有向图节点是具体操作调用模型、调用工具、人工审核边是状态流转条件。它天然支持循环、分支、并行执行也支持把整个执行过程持久化方便恢复和追踪。用一个例子来说明两者的差异。假设我们要做一个客服 Agent这个 Agent 要先判断用户意图然后要么直接回答要么调用订单查询工具要么转人工。用 LangChain 的思路一般会写成“if-else”逻辑def agent_route(user_input): intent analyze_intent(user_input) if intent FAQ: return faq_answer(user_input) elif intent order_query: return call_order_system(user_input) else: return transfer_to_human()这种写法在流程简单时没问题。但一旦分支变多、状态变多比如用户中途修改诉求、多个工具结果需要合并、需要人工确认后才能执行下一步代码会迅速变得复杂难维护。用 LangGraph 的思路则会把流程定义为一张显式的状态图每个节点只负责一件事边的逻辑决定了下一步走向。这样流程的每一步都可控、可观测、可回溯。下面是一个 LangGraph 风格的状态流程定义示例帮助你理解“图”这个抽象# 以下为 LangGraph 风格的状态图示意代码 # 实际语法请参考对应版本的官方文档 from typing import TypedDict, Literal from langgraph.graph import StateGraph, END class AgentState(TypedDict): user_input: str intent: str final_answer: str def analyze_intent(state: AgentState) - AgentState: # 调用模型分析用户意图 intent _llm_analyze(state[user_input]) return {intent: intent} def faq_answer_node(state: AgentState) - AgentState: # 回答 FAQ 类问题 return {final_answer: _answer_from_faq(state[user_input])} def order_query_node(state: AgentState) - AgentState: # 调用订单系统工具 return {final_answer: _query_order(state[user_input])} def transfer_to_human_node(state: AgentState) - AgentState: # 转人工处理 return {final_answer: 已为您转接人工客服请稍候。} def route_after_intent(state: AgentState) - Literal[faq, order_query, human]: intent state[intent] if intent faq: return faq elif intent order_query: return order_query else: return human # 构建图 graph_builder StateGraph(AgentState) graph_builder.add_node(analyze_intent, analyze_intent) graph_builder.add_node(faq, faq_answer_node) graph_builder.add_node(order_query, order_query_node) graph_builder.add_node(human, transfer_to_human_node) graph_builder.set_entry_point(analyze_intent) graph_builder.add_conditional_edges( analyze_intent, route_after_intent, { faq: faq, order_query: order_query, human: human } ) graph_builder.add_edge(faq, END) graph_builder.add_edge(order_query, END) graph_builder.add_edge(human, END) app graph_builder.compile() # 运行 Agent result app.invoke({user_input: 我想查看订单状态}) print(result[final_answer])这个示例展示的核心思想是流程结构是一等公民。以后要加一个新意图比如“发票申请”只需要增加一个节点、一条边判断不需要改动原来的代码逻辑。这就是 LangGraph 在处理复杂 Agent 流程时的价值。对于初学者我的建议是先学 LangChain 理解大模型应用的基本组件再进阶到 LangGraph 学习流程编排。两者是递进关系不是替代关系。6. 一个典型的 Agent 项目应该怎么组合这些技术看完了单项技术我们再来看真实的企业级 Agent 项目如何把它们组合起来。这里我以一个“企业知识库 工单处理 Agent”为例梳理一条典型的技术链路。场景设定企业内部员工通过对话界面提问Agent 需要回答制度类问题也能帮助提交运维工单并且在工单状态变化时主动告知用户。技术链路可以拆成这几层第一层交互层。负责接收用户消息、返回 Agent 输出一般是 Web 页面、IM即时通讯机器人或 API 接口。第二层Agent 编排层。这是核心。Agent 接收用户消息后先判断意图。如果属于知识咨询类走 RAG 流程如果属于工单操作类调用 MCP 工具如果意图不明确则追问澄清。第三层知识增强层。RAG 模块负责检索企业内部文档把检索结果作为上下文拼入 Prompt。第四层工具服务层。通过 MCP Server 接入工单系统、用户管理系统等内部服务。Agent 需要查用户信息时调用用户查询工具需要建单时调用工单创建工具。第五层状态管理层。用 LangGraph 管理整个会话状态比如是否已经完成身份确认、当前处于哪个流程节点、上一次工具调用是否成功。下面是一个简化的“工具调用结果处理”示例展示 Agent 如何把 MCP 工具的返回结果组装成最终回答def build_answer_with_tool_result(user_question: str, tool_result: dict, llm_answer_template: str) - str: 将工具调用结果与模型回答模板合并。 实际项目里工具结果需要经过“截断/清洗/脱敏”后才交给大模型。 # 1. 检查工具返回是否正常 if not tool_result.get(success): return 抱歉工具调用失败请稍后重试。 # 2. 提取关键字段 business_data tool_result.get(data, {}) # 3. 组装 Prompt 上下文 context { question: user_question, tool_result: business_data, template: llm_answer_template } # 这里省略实际的 LLM 调用代码 final_answer _call_llm_with_context(context) return final_answer组合这些技术时有一个特别重要的原则不要让 Agent 的每一步都依赖大模型自由发挥。在企业场景里很多步骤应该是确定性的。比如创建工单之前必须校验用户是否被授权修改数据前必须二次确认。这些约束应该用代码和流程图写死而不是期待大模型每次都能正确判断。7. Agent 开发中常见的坑与排查思路学习 Agent 开发时很多人会遇到“代码报错网上查不到”“效果时好时坏”的情况。这里整理几个高频问题并给出排查思路。问题现象可能原因排查方式解决方案RAG 回答经常答非所问文本切分破坏语义检索召回不准确打印召回文档与相似度分数检查切分结果优化切分策略增加关键词检索引入重排序Agent 连续多轮对话后忘记前文未正确维护记忆状态查看对话上下文是否传入模型请求在状态中维护消息历史注意超长截断策略工具调用一直报参数错误MCP Server 与 Client 的工具描述不一致检查 MCP Server 暴露的参数 Schema统一参数命名与类型做参数校验LangGraph 流程运行到一半卡住图构建时存在死循环或条件边缺失添加状态日志检查每个节点的返回状态用print或日志记录节点状态变化检查条件边映射大模型从内部 API 返回数据中出现越权信息工具返回字段过多未做字段级过滤检查工具返回的原始 JSON在工具调用结果进入模型前做脱敏和字段裁剪模型输出 JSON 格式不稳定导致解析失败模型输出不符合预期 Schema观察模型原始输出使用 Structured Output 或校验重试机制这些问题的共同根源往往不是模型能力不够而是工程链路不够健壮。好的 Agent 应用应该像一台精密的机器每一个环节都有输入校验、异常捕获和日志记录。8. 企业级 Agent 落地的关键建议最后聊一聊真实项目落地的工程经验。把 Agent 从 demo 做成可用的系统难度往往会翻几倍下面几个建议值得参考。第一以“最小闭环”为目标起步。不要一开始就规划一个无所不能的超级 Agent。先做一个“输入问题 - 检索 - 回答 - 返回引用”的最小链路跑通后再逐步加工具、加流程。这样可以最快暴露短板也更容易评估效果。第二严谨对待评测。Agent 的效果评测和传统软件测试不一样。它不是简单的“能跑就通过”而是要建立评测集覆盖常见问题、边界问题、敏感问题和对抗性问题。RAG 系统的评测指标通常包括检索召回率、回答准确率、引用命中率等Agent 的评测还要覆盖工具调用成功率、任务完成率、安全合规率。没有评测体系后续优化就没有依据。第三强调可观测性。Agent 执行链路的每一步都应该有日志包括模型输入输出、工具调用参数与返回、状态转移路径、耗时统计。尤其是生产环境如果没有日志出了问题几乎无法排查。LangGraph 在这方面有天然优势因为流程本身就是可视化的图结构。第四安全优先。Agent 一旦接入了企业内部系统意味着大模型有了一条通往数据的路径。权限控制要贯彻到每一个工具调用上遵循最小权限原则。工具返回结果要经过内容过滤防止敏感字段流出。任何写操作比如创建记录、修改配置、删除数据都应该有二次确认和审计日志。第五关注成本与性能。大模型应用的成本不只是 API 调用费用还包括向量检索延迟、工具调用次数、上下文长度。在设计流程时要控制不必要的模型调用。比如简单的分类任务可以用小模型复杂推理才用强模型。多轮对话的历史记录要及时裁剪避免上下文无限膨胀。9. 给不同阶段学习者的行动建议如果你还在学习阶段我的建议是不要试图一次性学完整套技术栈而是按顺序走好这几步。第一步跑通一个最基础的 LangChain 调用。不接复杂工具不接向量库只实现“用户输入 - Prompt 组装 - 模型返回”。这一步是建立全局感理解大模型应用的最小单元。第二步实现一个 RAG 项目。从加载 PDF 开始做文本切分、向量化、检索、回答重点看检索环节的结果好坏。观察不同切分策略如何影响回答质量。第三步学习 Function Calling 和 MCP。给 Agent 加一个能查询天气或者能检索数据库的工具理解“模型决定调用哪个工具、参数怎么填、结果怎么回到模型”的完整链路。第四步用 LangGraph 重新梳理流程。把你之前写的 if-else 逻辑重构成状态图体会图编排与命令式编程的区别。第五步把以上能力组合成一个完整的业务场景项目。比如做一个“内部制度问答 工单提交 状态查询”的 Agent这时候你才真正接触到 Agent 开发的复杂度。对于已经有一定经验的开发者核心建议则是从“能跑”走向“能控”。重点补评测、日志、安全和权限管理的短板。这些工程量化的积累才是你在 AI Agent 方向上真正的竞争力。如果你手头正好有一个 RAG 或 Agent 项目可以先拿评测集跑一轮看看短板在哪如果还在学建议先收藏这篇文章按上面的顺序搭一个最小闭环。AI Agent 的技术演进还在继续但 RAG、MCP、LangChain、LangGraph 这四个核心主题依然是入场必学的骨架。
当你准备系统性学习 AI Agent 开发时很容易陷入一种“资料越多越不知道从哪开始”的状态。网上关于 RAG、MCP、LangChain、LangGraph 的教程数量庞大但大多数只讲了某个孤立的概念比如“怎么调用一次大模型”或者“怎么封装一个函数工具”。真正到了要做一个能回答问题、能调用工具、能处理多轮对话、能被放进企业业务里的 Agent 时很多人会发现思路是断的。这也是为什么今天想聊一套更完整的 AI Agent 学习主线。不是推荐“看完视频就能成为专家”而是帮你把 Agent 开发需要用到的核心知识点拆开看清楚每个技术解决什么问题、彼此之间怎么组合以及从学习到落地之间隔着哪些坑。如果你正准备投入 AI Agent 开发或者已经在做 RAG 应用、LangChain 项目但总觉得缺一块拼图那么这篇文章值得读完。1. 学习 AI Agent 前先想清楚你到底要解决什么问题很多人在学习 Agent 开发时的第一个误区是把“Agent”当成一个新鲜、神秘的东西去追逐。看到一个演示视频Agent 能自动规划步骤、调用工具、完成任务就觉得这是某种“超级智能”于是开始到处找教程想把它复现出来。但从实际开发角度讲Agent 的本质并不玄学。它就是“大模型 任务拆解 工具调用 记忆管理 执行回路”的组合。模型的推理能力负责读懂用户意图外层代码负责把意图转化成可执行的步骤工具让模型能够获取实时数据、操作业务系统记忆让它在多轮对话中不“失忆”。所以学习 Agent 首先要问自己的不是“Agent 是什么”而是“我要做的东西复杂在哪”。这里我把常见的 Agent 项目分成三类你可以对照自己属于哪一种第一类是问答增强型。比如企业内部知识库问答、文档检索助手、电商客服机器人。这类项目最核心的技术是 RAG重点在于检索质量、文档解析、引用溯源。它们的“Agent 感”不强因为流程相对固定用户问问题系统查资料大模型组织答案。第二类是任务执行型。比如自动化报表生成、运维日志分析、代码审查助手、数据分析 Agent。这类项目的关键是有“工具”概念Agent 要能调用搜索、SQL 查询、内部 API 或外部服务。MCP 的价值在此时就体现出来了它把工具接入方式统一了。第三类是复杂流程编排型。比如多步骤业务办理、审批决策、需要分阶段执行的智能体。这类项目往往涉及状态管理、条件分支、循环和人工介入LangGraph 这一类图编排框架就显得很必要。搞清楚自己属于哪一类学习的优先级就清楚了。做知识库问答先深挖 RAG做自动化工具型 Agent先研究工具调用和 MCP做复杂流程再把 LangGraph 的图编排能力学好。2. RAG、MCP、LangChain、LangGraph 到底解决什么问题在 AI Agent 相关讨论里RAG、MCP、LangChain、LangGraph 四个词反复出现。很多初学者以为它们属于同一个维度的技术要么是替代关系要么是可以随便混着用的同名概念。这个理解会直接影响学习路径的清晰度。先做一个类比。如果把 Agent 比作一家公司RAG 是公司的资料库。公司员工回答问题前先从资料库里查到相关资料再基于资料作答避免凭空编造。MCP 是公司统一的接口规范。每个外部服务订餐平台、天气系统、内部 OA都按同一种方式对接员工不需要分别学习每个服务的使用方法。LangChain 像是一套通用办公工具集。它把调用模型、处理文本、对接向量库、设计提示词这些常见动作封装成模块让开发效率更高。LangGraph 更像是业务流程管理系统。它定义了任务从“开始”到“结束”的路径包括分几步走、什么时候找哪个部门、遇到异常怎么办。从技术层面看四者的分工如下技术解决的问题核心价值典型适用场景RAG让模型基于私有知识回答降低幻觉知识可更新知识库问答、文档分析MCP统一模型与外部工具的通信方式工具接入标准化避免重复开发多工具集成、跨系统调用LangChain提供大模型应用的常用组件提高开发效率降低编码成本快速原型、组件组合LangGraph管理 Agent 的状态与执行流程支持复杂分支、循环、人工介入多步骤业务 Agent、工作流从这个角度看四者不是竞争关系而是不同层级的基础设施。一个企业级 Agent 项目完全可能同时使用 RAG 做知识增强、MCP 接工具、LangChain 做组件封装、LangGraph 做流程管理。明白了它们的分工学习时就不会“东一榔头西一棒子”。3. RAG 不是“连上向量库就行”检索质量决定上限RAG 是很多人接触 AI Agent 开发的第一步因为它的目标非常明确让大模型基于你自己的文档回答。企业里最常见的使用场景是员工手册问答、产品文档检索、制度法规查询。一个标准的 RAG 流程通常包含五个环节文档加载、文本切分、向量化、检索召回、生成回答。如果通过入门文档一步步跟下来半小时就能跑通一个 demo。但真实项目里demo 能回答的问题和系统能实际使用的差距往往就藏在检索质量里。常见的检索问题有三个第一文本切分不合理。如果直接按固定字符数切分可能会把一个完整的业务规则拆成两段导致检索时召回的片段语义不完整。更合理的做法是按照文档结构章节、段落优先切分再配合重叠窗口保留上下文信息。第二Embedding 模型没有针对业务领域调优。通用向量模型对法律、医疗、工业等垂直领域的专业表述理解有限。如果业务文档里大量出现专有名词建议在实测后评估是否需要引入领域微调的 Embedding 模型或者至少做一个词汇层面的扩充映射。第三检索策略太单一。很多入门项目只做“向量相似度召回”但实际业务里精确的关键词匹配、结构化过滤条件比如时间、部门、文档类型同样重要。更稳定的方案往往是多路召回向量检索 关键词检索 元数据过滤然后对结果做重排。除了检索回答的可追溯性也很关键。企业用户在使用知识库问答时会要求 Agent 给出答案时标明来源。这意味着 RAG 应用在构造 Prompt 时要把检索到的原文段落和文档位置一起传给大模型而不是只把文本内容塞进去。下面是一个简化版的 RAG 检索流程示例展示向量检索 元数据过滤的基本思路# 简化示例展示 RAG 中“检索召回”环节的核心逻辑 # 实际项目中建议使用更完善的向量数据库与管理组件 from typing import List, Dict def retrieve_documents(query_embedding: List[float], collection_embeddings: List[Dict], top_k: int 5, metadata_filter: Dict None) - List[Dict]: 演示多路召回中的向量检索逻辑并支持元数据过滤。 实际生产中建议使用 FAISS、Milvus 或 Elasticsearch 向量检索能力。 scored_docs [] for item in collection_embeddings: # 此处省略向量相似度计算细节 score _cosine_similarity(query_embedding, item[embedding]) # 元数据过滤 if metadata_filter: if not all(item[metadata].get(key) value for key, value in metadata_filter.items()): continue scored_docs.append({ doc_id: item[doc_id], text: item[text], source: item[source], score: score }) scored_docs.sort(keylambda x: x[score], reverseTrue) return scored_docs[:top_k]这段代码不是完整的生产实现但它展示了 RAG 开发中的一个关键思想不要只把“最相似”的文本找出来还要带上来源信息并允许通过过滤条件缩小范围。这也是 RAG 在真实项目中做得扎实与否的分水岭。4. MCP为什么工具接入方式突然变得重要在 Agent 开发中让大模型调用工具是一个绕不开的难题。早期做法是每个项目自己定义一套 Function Calling 的 JSON Schema然后通过代码逻辑判断“模型想调用哪个函数”再把函数返回结果喂回给模型。这种做法在工具数量少、项目独立的时候问题不大。但当企业内部有几十个系统、上百个工具接口时问题就暴露了每个系统都要定制一套接入逻辑接口变更又要重新适配。整个链路像是一团乱麻。MCPModel Context Protocol的出现就是想把这件事标准化。它把大模型应用与工具之间的通信抽象成一种类似“USB 接口”的协议。工具的提供方只需要实现一套 MCP Server模型的消费方通过 MCP Client 去发现工具、调用工具、接收结果。两边不需要再针对彼此单独适配。MCP 的核心价值可以概括为三点第一工具接入标准化。开发者不用关心底层是 REST API、数据库还是文件系统MCP Server 统一暴露成标准化的工具列表。第二动态能力发现。MCP Client 可以实时获取 Server 提供的工具清单、参数描述、调用方式这让 Agent 在运行期能够自动感知可用工具而不是把工具清单硬编码在代码里。第三生态复用。一个 MCP Server 写好后可以在不同 Agent 项目中复用相当于把工具从“一次定制”变成了“可复用资产”。对于企业开发者来说MCP 还有一层现实意义它能把 Agent 与内部系统的对接边界划清楚。团队 A 负责某个业务系统的 MCP Server团队 B 负责 Agent 应用两边只要遵守协议就能协作这比互相等对方改接口高效得多。当然MCP 也不是银弹。协议本身还在快速演进工具调用过程中的鉴权、审计、流量控制都需要企业自己设计方案。但在 2026 年这个节点掌握 MCP 已经是 Agent 开发者的基本功之一。5. LangChain 与 LangGraph一个像工具箱一个像流程引擎LangChain 和 LangGraph 虽然同属 LangChain 生态但定位差异很大。不少入门者会把它们混为一谈实际是两种不同的抽象层次。LangChain 更像一个“大模型应用工具箱”。它提供了 Prompt 模板、模型封装、输出解析、记忆管理、向量存储对接等组件让开发者不必每次从零开始写调用代码。如果你的项目是相对线性的流程比如“读取用户问题 - 拼 Prompt - 调用模型 - 返回回答”LangChain 能帮上很大忙。LangGraph 则是一个“状态化流程引擎”。它关注的是 Agent 在执行过程中的状态流转。你可以把 Agent 的定义理解为一张有向图节点是具体操作调用模型、调用工具、人工审核边是状态流转条件。它天然支持循环、分支、并行执行也支持把整个执行过程持久化方便恢复和追踪。用一个例子来说明两者的差异。假设我们要做一个客服 Agent这个 Agent 要先判断用户意图然后要么直接回答要么调用订单查询工具要么转人工。用 LangChain 的思路一般会写成“if-else”逻辑def agent_route(user_input): intent analyze_intent(user_input) if intent FAQ: return faq_answer(user_input) elif intent order_query: return call_order_system(user_input) else: return transfer_to_human()这种写法在流程简单时没问题。但一旦分支变多、状态变多比如用户中途修改诉求、多个工具结果需要合并、需要人工确认后才能执行下一步代码会迅速变得复杂难维护。用 LangGraph 的思路则会把流程定义为一张显式的状态图每个节点只负责一件事边的逻辑决定了下一步走向。这样流程的每一步都可控、可观测、可回溯。下面是一个 LangGraph 风格的状态流程定义示例帮助你理解“图”这个抽象# 以下为 LangGraph 风格的状态图示意代码 # 实际语法请参考对应版本的官方文档 from typing import TypedDict, Literal from langgraph.graph import StateGraph, END class AgentState(TypedDict): user_input: str intent: str final_answer: str def analyze_intent(state: AgentState) - AgentState: # 调用模型分析用户意图 intent _llm_analyze(state[user_input]) return {intent: intent} def faq_answer_node(state: AgentState) - AgentState: # 回答 FAQ 类问题 return {final_answer: _answer_from_faq(state[user_input])} def order_query_node(state: AgentState) - AgentState: # 调用订单系统工具 return {final_answer: _query_order(state[user_input])} def transfer_to_human_node(state: AgentState) - AgentState: # 转人工处理 return {final_answer: 已为您转接人工客服请稍候。} def route_after_intent(state: AgentState) - Literal[faq, order_query, human]: intent state[intent] if intent faq: return faq elif intent order_query: return order_query else: return human # 构建图 graph_builder StateGraph(AgentState) graph_builder.add_node(analyze_intent, analyze_intent) graph_builder.add_node(faq, faq_answer_node) graph_builder.add_node(order_query, order_query_node) graph_builder.add_node(human, transfer_to_human_node) graph_builder.set_entry_point(analyze_intent) graph_builder.add_conditional_edges( analyze_intent, route_after_intent, { faq: faq, order_query: order_query, human: human } ) graph_builder.add_edge(faq, END) graph_builder.add_edge(order_query, END) graph_builder.add_edge(human, END) app graph_builder.compile() # 运行 Agent result app.invoke({user_input: 我想查看订单状态}) print(result[final_answer])这个示例展示的核心思想是流程结构是一等公民。以后要加一个新意图比如“发票申请”只需要增加一个节点、一条边判断不需要改动原来的代码逻辑。这就是 LangGraph 在处理复杂 Agent 流程时的价值。对于初学者我的建议是先学 LangChain 理解大模型应用的基本组件再进阶到 LangGraph 学习流程编排。两者是递进关系不是替代关系。6. 一个典型的 Agent 项目应该怎么组合这些技术看完了单项技术我们再来看真实的企业级 Agent 项目如何把它们组合起来。这里我以一个“企业知识库 工单处理 Agent”为例梳理一条典型的技术链路。场景设定企业内部员工通过对话界面提问Agent 需要回答制度类问题也能帮助提交运维工单并且在工单状态变化时主动告知用户。技术链路可以拆成这几层第一层交互层。负责接收用户消息、返回 Agent 输出一般是 Web 页面、IM即时通讯机器人或 API 接口。第二层Agent 编排层。这是核心。Agent 接收用户消息后先判断意图。如果属于知识咨询类走 RAG 流程如果属于工单操作类调用 MCP 工具如果意图不明确则追问澄清。第三层知识增强层。RAG 模块负责检索企业内部文档把检索结果作为上下文拼入 Prompt。第四层工具服务层。通过 MCP Server 接入工单系统、用户管理系统等内部服务。Agent 需要查用户信息时调用用户查询工具需要建单时调用工单创建工具。第五层状态管理层。用 LangGraph 管理整个会话状态比如是否已经完成身份确认、当前处于哪个流程节点、上一次工具调用是否成功。下面是一个简化的“工具调用结果处理”示例展示 Agent 如何把 MCP 工具的返回结果组装成最终回答def build_answer_with_tool_result(user_question: str, tool_result: dict, llm_answer_template: str) - str: 将工具调用结果与模型回答模板合并。 实际项目里工具结果需要经过“截断/清洗/脱敏”后才交给大模型。 # 1. 检查工具返回是否正常 if not tool_result.get(success): return 抱歉工具调用失败请稍后重试。 # 2. 提取关键字段 business_data tool_result.get(data, {}) # 3. 组装 Prompt 上下文 context { question: user_question, tool_result: business_data, template: llm_answer_template } # 这里省略实际的 LLM 调用代码 final_answer _call_llm_with_context(context) return final_answer组合这些技术时有一个特别重要的原则不要让 Agent 的每一步都依赖大模型自由发挥。在企业场景里很多步骤应该是确定性的。比如创建工单之前必须校验用户是否被授权修改数据前必须二次确认。这些约束应该用代码和流程图写死而不是期待大模型每次都能正确判断。7. Agent 开发中常见的坑与排查思路学习 Agent 开发时很多人会遇到“代码报错网上查不到”“效果时好时坏”的情况。这里整理几个高频问题并给出排查思路。问题现象可能原因排查方式解决方案RAG 回答经常答非所问文本切分破坏语义检索召回不准确打印召回文档与相似度分数检查切分结果优化切分策略增加关键词检索引入重排序Agent 连续多轮对话后忘记前文未正确维护记忆状态查看对话上下文是否传入模型请求在状态中维护消息历史注意超长截断策略工具调用一直报参数错误MCP Server 与 Client 的工具描述不一致检查 MCP Server 暴露的参数 Schema统一参数命名与类型做参数校验LangGraph 流程运行到一半卡住图构建时存在死循环或条件边缺失添加状态日志检查每个节点的返回状态用print或日志记录节点状态变化检查条件边映射大模型从内部 API 返回数据中出现越权信息工具返回字段过多未做字段级过滤检查工具返回的原始 JSON在工具调用结果进入模型前做脱敏和字段裁剪模型输出 JSON 格式不稳定导致解析失败模型输出不符合预期 Schema观察模型原始输出使用 Structured Output 或校验重试机制这些问题的共同根源往往不是模型能力不够而是工程链路不够健壮。好的 Agent 应用应该像一台精密的机器每一个环节都有输入校验、异常捕获和日志记录。8. 企业级 Agent 落地的关键建议最后聊一聊真实项目落地的工程经验。把 Agent 从 demo 做成可用的系统难度往往会翻几倍下面几个建议值得参考。第一以“最小闭环”为目标起步。不要一开始就规划一个无所不能的超级 Agent。先做一个“输入问题 - 检索 - 回答 - 返回引用”的最小链路跑通后再逐步加工具、加流程。这样可以最快暴露短板也更容易评估效果。第二严谨对待评测。Agent 的效果评测和传统软件测试不一样。它不是简单的“能跑就通过”而是要建立评测集覆盖常见问题、边界问题、敏感问题和对抗性问题。RAG 系统的评测指标通常包括检索召回率、回答准确率、引用命中率等Agent 的评测还要覆盖工具调用成功率、任务完成率、安全合规率。没有评测体系后续优化就没有依据。第三强调可观测性。Agent 执行链路的每一步都应该有日志包括模型输入输出、工具调用参数与返回、状态转移路径、耗时统计。尤其是生产环境如果没有日志出了问题几乎无法排查。LangGraph 在这方面有天然优势因为流程本身就是可视化的图结构。第四安全优先。Agent 一旦接入了企业内部系统意味着大模型有了一条通往数据的路径。权限控制要贯彻到每一个工具调用上遵循最小权限原则。工具返回结果要经过内容过滤防止敏感字段流出。任何写操作比如创建记录、修改配置、删除数据都应该有二次确认和审计日志。第五关注成本与性能。大模型应用的成本不只是 API 调用费用还包括向量检索延迟、工具调用次数、上下文长度。在设计流程时要控制不必要的模型调用。比如简单的分类任务可以用小模型复杂推理才用强模型。多轮对话的历史记录要及时裁剪避免上下文无限膨胀。9. 给不同阶段学习者的行动建议如果你还在学习阶段我的建议是不要试图一次性学完整套技术栈而是按顺序走好这几步。第一步跑通一个最基础的 LangChain 调用。不接复杂工具不接向量库只实现“用户输入 - Prompt 组装 - 模型返回”。这一步是建立全局感理解大模型应用的最小单元。第二步实现一个 RAG 项目。从加载 PDF 开始做文本切分、向量化、检索、回答重点看检索环节的结果好坏。观察不同切分策略如何影响回答质量。第三步学习 Function Calling 和 MCP。给 Agent 加一个能查询天气或者能检索数据库的工具理解“模型决定调用哪个工具、参数怎么填、结果怎么回到模型”的完整链路。第四步用 LangGraph 重新梳理流程。把你之前写的 if-else 逻辑重构成状态图体会图编排与命令式编程的区别。第五步把以上能力组合成一个完整的业务场景项目。比如做一个“内部制度问答 工单提交 状态查询”的 Agent这时候你才真正接触到 Agent 开发的复杂度。对于已经有一定经验的开发者核心建议则是从“能跑”走向“能控”。重点补评测、日志、安全和权限管理的短板。这些工程量化的积累才是你在 AI Agent 方向上真正的竞争力。如果你手头正好有一个 RAG 或 Agent 项目可以先拿评测集跑一轮看看短板在哪如果还在学建议先收藏这篇文章按上面的顺序搭一个最小闭环。AI Agent 的技术演进还在继续但 RAG、MCP、LangChain、LangGraph 这四个核心主题依然是入场必学的骨架。
