文章目录【61.PythonAI】LangChain vs LlamaIndex两大LLM框架功能矩阵与混用最佳实践导入语1 ~ 一张图看懂两个框架的定位1.1 核心差异全栈编排 vs 数据专家1.2 功能覆盖矩阵1.3 选型速查2 ~ 数据处理管道IngestionPipeline vs DocumentLoader2.1 LangChain 的数据加载方式2.2 LlamaIndex 的 IngestionPipeline3 ~ Agent 能力对比3.1 LangChain 的 Agent 体系3.2 LlamaIndex 的 Agent3.3 Agent 场景选型4 ~ 三种混用方案4.1 方案一LlamaIndex 做数据层LangChain 做编排层4.2 方案二两个框架各自独立模块4.3 方案三全用 LangChain 手动实现高级检索5 ~ 优缺点总结LangChain 的优缺点LlamaIndex 的优缺点一句话总结思考 总结结尾【61.PythonAI】LangChain vs LlamaIndex两大LLM框架功能矩阵与混用最佳实践文章简介本文针对LangChain和LlamaIndex到底该选哪个这个LLM开发者的高频困惑从功能定位、架构哲学、典型场景三个维度做一次不偏不倚的横向对比。文章绘制了功能覆盖矩阵图拆解了两者在数据处理管道Ingestion Pipeline vs Document Loader、检索策略高级索引 vs RetrievalQA、Agent能力上的差异化设计并给出三种混用方案以LlamaIndex为数据层LangChain为编排层的协同架构。适合已经上手其中一个框架、正在评估是否引入另一个的开发者。 个人主页源码骑士❄专栏传送门《Android开发基础》《python基础课程》⭐️热衷从源码视角拆解技术底层原理将复杂架构讲得通俗易懂 源码骑士的简介5年Android Framework系统开发经验曾主导多项系统级性能优化专项技术栈覆盖Android系统全链路Binder/Handler/AMS/WMS/启动流程及Java后端全家桶Spring MyBatis Redis Oracle累计产出原创技术文章100篇文章以流程图为特色被读者评价为看一篇胜过啃一周源码导入语你学习LLM应用开发第一个接触的框架大概率是LangChain。后来做到RAG环节周围越来越多声音说LlamaIndex在数据索引方面更强。于是你面临一个灵魂拷问要转投LlamaIndex吗还是两个都学能不能混用这篇文章就帮你把这道选择题做完。我们不谈哪个更好只谈哪个更适合你的场景。1 ~ 一张图看懂两个框架的定位1.1 核心差异全栈编排 vs 数据专家LlamaIndexLangChainLLM调用Chain链式编排Agent智能体Tool工具集成RAG检索生成Memory记忆数据加载索引构建高级检索查询引擎响应合成LangChain 是一个通用LLM应用框架——它关心的是怎么把LLM、工具、记忆、Agent拼在一起。RAG是它其中一个模块不是它的全部。LlamaIndex 是一个数据框架——它只关心一件事“怎么把外部数据变成LLM能用好的格式”。它的全部功能围绕数据索引和检索展开。1.2 功能覆盖矩阵能力域LangChainLlamaIndex谁更擅长LLM调用封装✅ 支持几乎所有模型✅ 通过langchain桥接LangChainChain/Pipeline编排✅ LCEL表达式语言⚠️ 基础支持LangChainAgent/工具调用✅ AgentExecutor系列⚠️ 简单AgentLangChain数据加载/解析✅ 100 DocumentLoader✅ 支持PDF/网页/数据库持平基础向量检索✅ RetrievalQA✅ VectorStoreIndex持平高级检索策略❌ 需自己实现✅ 句子窗口/递归/合并LlamaIndex知识图谱索引❌ 无原生支持✅ KnowledgeGraphIndexLlamaIndexRAG评估❌ 无✅ 内置评估模块LlamaIndexCallbacks监控✅ 完善的回调系统⚠️ 通过langchainLangChainMemory管理✅ 多种Memory方案❌LangChain1.3 选型速查你需要构建的主要功能是什么 ├─ 复杂Agent 多工具编排 对话记忆 │ → 选 LangChain │ ├─ RAG 复杂文档检索 知识图谱问答 │ → 选 LlamaIndex │ └─ 既需要Agent又需要高级RAG → 两个都学混用2 ~ 数据处理管道IngestionPipeline vs DocumentLoader2.1 LangChain 的数据加载方式LangChain 的数据加载遵循加载→转换→存储的线性流程fromlangchain.document_loadersimportPyPDFLoaderfromlangchain.text_splitterimportRecursiveCharacterTextSplitterfromlangchain.vectorstoresimportChroma loaderPyPDFLoader(document.pdf)documentsloader.load()splitterRecursiveCharacterTextSplitter(chunk_size500,chunk_overlap50)chunkssplitter.split_documents(documents)vectordbChroma.from_documents(chunks,embeddingembeddings)这个流程简单直接但缺少预处理hook——比如你想在embedding之前对文本做清洗需要在代码里额外写一步。2.2 LlamaIndex 的 IngestionPipelineLlamaIndex 用IngestionPipeline把整个数据摄入过程封装成一条可配置的管道fromllama_index.core.ingestionimportIngestionPipelinefromllama_index.core.node_parserimportSentenceSplitterfromllama_index.core.extractorsimportTitleExtractor pipelineIngestionPipeline(transformations[SentenceSplitter(chunk_size512),# 分块TitleExtractor(),# 自动提取标题embeddings,# 向量化])nodespipeline.run(documentsdocuments)管道带来的好处特性LangChain 方式LlamaIndex 管道可配置性需手动串联声明式配置可缓存需自己实现内置cache支持并行处理需手动多线程管道内支持parallel3 ~ Agent 能力对比3.1 LangChain 的 Agent 体系LangChain 的 Agent 是它最强的护城河——支持多种Agent类型、工具绑定、自定义推理循环fromlangchain.agentsimportcreate_openai_functions_agent,AgentExecutor agentcreate_openai_functions_agent(llm,tools,prompt)executorAgentExecutor(agentagent,toolstools,verboseTrue)executor.invoke({input:查一下今天的天气如果下雨就帮我订外卖})3.2 LlamaIndex 的 AgentLlamaIndex 的 Agent 设计更专注于数据相关的任务fromllama_index.core.agentimportReActAgent agentReActAgent.from_tools([query_tool,search_tool],llmllm,verboseTrue)agent.chat(从知识库中找到关于异常处理的最佳实践)3.3 Agent 场景选型需求建议框架调用外部API、数据库、文件系统LangChain混合使用多个检索策略回答问题都可以先检索知识库、再调用计算工具、最后写入数据库LangChain混用LlamaIndex做检索4 ~ 三种混用方案4.1 方案一LlamaIndex 做数据层LangChain 做编排层这是最常见也最推荐的混用方式文档数据LlamaIndexIngestionPipelineLlamaIndex索引 高级检索检索结果LangChain Agent编排后续流程调用工具/LLM合成/返回结果fromllama_index.coreimportVectorStoreIndexfromlangchain.agentsimportinitialize_agent# LlamaIndex 构建索引和检索器indexVectorStoreIndex.from_documents(docs)retrieverindex.as_retriever(similarity_top_k5)# 把检索器包装成 LangChain Toolfromlangchain.toolsimportTool retrieval_toolTool(nameknowledge_base,funclambdaq:str(retriever.retrieve(q)),description从知识库中检索信息)# LangChain Agent 调用这个工具agentinitialize_agent([retrieval_tool,other_tools],llm)agent.run(查一下知识库里关于微服务的架构设计)4.2 方案二两个框架各自独立模块如果你的项目同时有复杂RAG需求和Agent编排需求把两块独立开发和测试项目结构 ├─ rag_module/ ← 用 LlamaIndex专注检索 │ ├─ ingestion.py │ └─ retrievers.py │ ├─ agent_module/ ← 用 LangChain专注编排 │ ├─ tools.py │ └─ executor.py │ └─ main.py ← 粘合层4.3 方案三全用 LangChain 手动实现高级检索如果你的团队不想引入第二个框架也可以用 LangChain 手动实现 LlamaIndex 的部分高级检索功能——但这意味着你要自己写递归检索、句子窗口等逻辑。5 ~ 优缺点总结LangChain 的优缺点优点缺点生态最丰富几乎支持所有LLM抽象层太多初学者容易迷失Agent和Chain能力最强RAG只是它的一部分不够专注LCEL表达式语言统一了调用方式API变化快版本升级成本高Callbacks可观测性好高级检索需要自己动手LlamaIndex 的优缺点优点缺点RAG和数据索引做到极致Agent和编排能力不如LangChain高级检索开箱即用生态相对较小IngestionPipeline设计优雅社区的教程和案例偏少知识图谱原生支持Memory管理较弱一句话总结RAG和知识库项目用LlamaIndex。Agent和多工具编排项目用LangChain。两者兼有的项目LlamaIndex做数据层、LangChain做编排层。思考 总结两个框架不是竞争关系是互补关系LangChain 擅长把各种东西串起来LlamaIndex 擅长让外部数据被更好地检索。一个关注流程编排一个关注数据质量。不要为了全用最新技术而引入不必要的复杂度如果你的项目就是一个简单的QA机器人LangChain 的 RetrievalQA 就够了。当检索复杂度上去了多文档、层级结构、需要知识图谱再考虑引入 LlamaIndex。混用的关键是定义清楚边界数据摄入和检索归 LlamaIndex 管Agent 流程和工具编排归 LangChain 管。在边界上用一个简单的Tool包装器桥接。功能矩阵表是你选型的第一参考每个项目需求不同不要问哪个更好要看功能矩阵里哪个框架在你的核心需求上得分更高。选框架和选数据库一样——没有银弹只有最适合你当前场景的工具组合。结尾各位小伙伴本文的内容到这里就全部结束了源码骑士在这里再次感谢您的阅读源码骑士 — Android Framework 全栈开发关注跟博主一起从源码视角深耕底层原理见证每一次成长❤️点赞让优质内容被更多人看见让知识传递更有力量⭐收藏把核心知识点存好在需要时随时查、随时用评论分享你的经验或疑问评论区一起交流避坑一键四连不要忘记给博主一键四连哦️寄语技术之路难免有困惑但同行的人会让前进更有方向结语每次新技术选型都像在迷宫里找出口。本文的功能矩阵和三种混用方案就是帮你快速定位出口的地图。记住——框架是工具不是信仰。不要忘记给博主一键四连哦
文章目录【61.PythonAI】LangChain vs LlamaIndex两大LLM框架功能矩阵与混用最佳实践导入语1 ~ 一张图看懂两个框架的定位1.1 核心差异全栈编排 vs 数据专家1.2 功能覆盖矩阵1.3 选型速查2 ~ 数据处理管道IngestionPipeline vs DocumentLoader2.1 LangChain 的数据加载方式2.2 LlamaIndex 的 IngestionPipeline3 ~ Agent 能力对比3.1 LangChain 的 Agent 体系3.2 LlamaIndex 的 Agent3.3 Agent 场景选型4 ~ 三种混用方案4.1 方案一LlamaIndex 做数据层LangChain 做编排层4.2 方案二两个框架各自独立模块4.3 方案三全用 LangChain 手动实现高级检索5 ~ 优缺点总结LangChain 的优缺点LlamaIndex 的优缺点一句话总结思考 总结结尾【61.PythonAI】LangChain vs LlamaIndex两大LLM框架功能矩阵与混用最佳实践文章简介本文针对LangChain和LlamaIndex到底该选哪个这个LLM开发者的高频困惑从功能定位、架构哲学、典型场景三个维度做一次不偏不倚的横向对比。文章绘制了功能覆盖矩阵图拆解了两者在数据处理管道Ingestion Pipeline vs Document Loader、检索策略高级索引 vs RetrievalQA、Agent能力上的差异化设计并给出三种混用方案以LlamaIndex为数据层LangChain为编排层的协同架构。适合已经上手其中一个框架、正在评估是否引入另一个的开发者。 个人主页源码骑士❄专栏传送门《Android开发基础》《python基础课程》⭐️热衷从源码视角拆解技术底层原理将复杂架构讲得通俗易懂 源码骑士的简介5年Android Framework系统开发经验曾主导多项系统级性能优化专项技术栈覆盖Android系统全链路Binder/Handler/AMS/WMS/启动流程及Java后端全家桶Spring MyBatis Redis Oracle累计产出原创技术文章100篇文章以流程图为特色被读者评价为看一篇胜过啃一周源码导入语你学习LLM应用开发第一个接触的框架大概率是LangChain。后来做到RAG环节周围越来越多声音说LlamaIndex在数据索引方面更强。于是你面临一个灵魂拷问要转投LlamaIndex吗还是两个都学能不能混用这篇文章就帮你把这道选择题做完。我们不谈哪个更好只谈哪个更适合你的场景。1 ~ 一张图看懂两个框架的定位1.1 核心差异全栈编排 vs 数据专家LlamaIndexLangChainLLM调用Chain链式编排Agent智能体Tool工具集成RAG检索生成Memory记忆数据加载索引构建高级检索查询引擎响应合成LangChain 是一个通用LLM应用框架——它关心的是怎么把LLM、工具、记忆、Agent拼在一起。RAG是它其中一个模块不是它的全部。LlamaIndex 是一个数据框架——它只关心一件事“怎么把外部数据变成LLM能用好的格式”。它的全部功能围绕数据索引和检索展开。1.2 功能覆盖矩阵能力域LangChainLlamaIndex谁更擅长LLM调用封装✅ 支持几乎所有模型✅ 通过langchain桥接LangChainChain/Pipeline编排✅ LCEL表达式语言⚠️ 基础支持LangChainAgent/工具调用✅ AgentExecutor系列⚠️ 简单AgentLangChain数据加载/解析✅ 100 DocumentLoader✅ 支持PDF/网页/数据库持平基础向量检索✅ RetrievalQA✅ VectorStoreIndex持平高级检索策略❌ 需自己实现✅ 句子窗口/递归/合并LlamaIndex知识图谱索引❌ 无原生支持✅ KnowledgeGraphIndexLlamaIndexRAG评估❌ 无✅ 内置评估模块LlamaIndexCallbacks监控✅ 完善的回调系统⚠️ 通过langchainLangChainMemory管理✅ 多种Memory方案❌LangChain1.3 选型速查你需要构建的主要功能是什么 ├─ 复杂Agent 多工具编排 对话记忆 │ → 选 LangChain │ ├─ RAG 复杂文档检索 知识图谱问答 │ → 选 LlamaIndex │ └─ 既需要Agent又需要高级RAG → 两个都学混用2 ~ 数据处理管道IngestionPipeline vs DocumentLoader2.1 LangChain 的数据加载方式LangChain 的数据加载遵循加载→转换→存储的线性流程fromlangchain.document_loadersimportPyPDFLoaderfromlangchain.text_splitterimportRecursiveCharacterTextSplitterfromlangchain.vectorstoresimportChroma loaderPyPDFLoader(document.pdf)documentsloader.load()splitterRecursiveCharacterTextSplitter(chunk_size500,chunk_overlap50)chunkssplitter.split_documents(documents)vectordbChroma.from_documents(chunks,embeddingembeddings)这个流程简单直接但缺少预处理hook——比如你想在embedding之前对文本做清洗需要在代码里额外写一步。2.2 LlamaIndex 的 IngestionPipelineLlamaIndex 用IngestionPipeline把整个数据摄入过程封装成一条可配置的管道fromllama_index.core.ingestionimportIngestionPipelinefromllama_index.core.node_parserimportSentenceSplitterfromllama_index.core.extractorsimportTitleExtractor pipelineIngestionPipeline(transformations[SentenceSplitter(chunk_size512),# 分块TitleExtractor(),# 自动提取标题embeddings,# 向量化])nodespipeline.run(documentsdocuments)管道带来的好处特性LangChain 方式LlamaIndex 管道可配置性需手动串联声明式配置可缓存需自己实现内置cache支持并行处理需手动多线程管道内支持parallel3 ~ Agent 能力对比3.1 LangChain 的 Agent 体系LangChain 的 Agent 是它最强的护城河——支持多种Agent类型、工具绑定、自定义推理循环fromlangchain.agentsimportcreate_openai_functions_agent,AgentExecutor agentcreate_openai_functions_agent(llm,tools,prompt)executorAgentExecutor(agentagent,toolstools,verboseTrue)executor.invoke({input:查一下今天的天气如果下雨就帮我订外卖})3.2 LlamaIndex 的 AgentLlamaIndex 的 Agent 设计更专注于数据相关的任务fromllama_index.core.agentimportReActAgent agentReActAgent.from_tools([query_tool,search_tool],llmllm,verboseTrue)agent.chat(从知识库中找到关于异常处理的最佳实践)3.3 Agent 场景选型需求建议框架调用外部API、数据库、文件系统LangChain混合使用多个检索策略回答问题都可以先检索知识库、再调用计算工具、最后写入数据库LangChain混用LlamaIndex做检索4 ~ 三种混用方案4.1 方案一LlamaIndex 做数据层LangChain 做编排层这是最常见也最推荐的混用方式文档数据LlamaIndexIngestionPipelineLlamaIndex索引 高级检索检索结果LangChain Agent编排后续流程调用工具/LLM合成/返回结果fromllama_index.coreimportVectorStoreIndexfromlangchain.agentsimportinitialize_agent# LlamaIndex 构建索引和检索器indexVectorStoreIndex.from_documents(docs)retrieverindex.as_retriever(similarity_top_k5)# 把检索器包装成 LangChain Toolfromlangchain.toolsimportTool retrieval_toolTool(nameknowledge_base,funclambdaq:str(retriever.retrieve(q)),description从知识库中检索信息)# LangChain Agent 调用这个工具agentinitialize_agent([retrieval_tool,other_tools],llm)agent.run(查一下知识库里关于微服务的架构设计)4.2 方案二两个框架各自独立模块如果你的项目同时有复杂RAG需求和Agent编排需求把两块独立开发和测试项目结构 ├─ rag_module/ ← 用 LlamaIndex专注检索 │ ├─ ingestion.py │ └─ retrievers.py │ ├─ agent_module/ ← 用 LangChain专注编排 │ ├─ tools.py │ └─ executor.py │ └─ main.py ← 粘合层4.3 方案三全用 LangChain 手动实现高级检索如果你的团队不想引入第二个框架也可以用 LangChain 手动实现 LlamaIndex 的部分高级检索功能——但这意味着你要自己写递归检索、句子窗口等逻辑。5 ~ 优缺点总结LangChain 的优缺点优点缺点生态最丰富几乎支持所有LLM抽象层太多初学者容易迷失Agent和Chain能力最强RAG只是它的一部分不够专注LCEL表达式语言统一了调用方式API变化快版本升级成本高Callbacks可观测性好高级检索需要自己动手LlamaIndex 的优缺点优点缺点RAG和数据索引做到极致Agent和编排能力不如LangChain高级检索开箱即用生态相对较小IngestionPipeline设计优雅社区的教程和案例偏少知识图谱原生支持Memory管理较弱一句话总结RAG和知识库项目用LlamaIndex。Agent和多工具编排项目用LangChain。两者兼有的项目LlamaIndex做数据层、LangChain做编排层。思考 总结两个框架不是竞争关系是互补关系LangChain 擅长把各种东西串起来LlamaIndex 擅长让外部数据被更好地检索。一个关注流程编排一个关注数据质量。不要为了全用最新技术而引入不必要的复杂度如果你的项目就是一个简单的QA机器人LangChain 的 RetrievalQA 就够了。当检索复杂度上去了多文档、层级结构、需要知识图谱再考虑引入 LlamaIndex。混用的关键是定义清楚边界数据摄入和检索归 LlamaIndex 管Agent 流程和工具编排归 LangChain 管。在边界上用一个简单的Tool包装器桥接。功能矩阵表是你选型的第一参考每个项目需求不同不要问哪个更好要看功能矩阵里哪个框架在你的核心需求上得分更高。选框架和选数据库一样——没有银弹只有最适合你当前场景的工具组合。结尾各位小伙伴本文的内容到这里就全部结束了源码骑士在这里再次感谢您的阅读源码骑士 — Android Framework 全栈开发关注跟博主一起从源码视角深耕底层原理见证每一次成长❤️点赞让优质内容被更多人看见让知识传递更有力量⭐收藏把核心知识点存好在需要时随时查、随时用评论分享你的经验或疑问评论区一起交流避坑一键四连不要忘记给博主一键四连哦️寄语技术之路难免有困惑但同行的人会让前进更有方向结语每次新技术选型都像在迷宫里找出口。本文的功能矩阵和三种混用方案就是帮你快速定位出口的地图。记住——框架是工具不是信仰。不要忘记给博主一键四连哦
