这篇我按“先跑起来、再讲取舍”的方式写《大家都在聊LangChain企业真正需要的却不是更多 Demo》。概念会讲但重点放在代码怎么组织、哪里容易踩坑。摘要LangChain 让调用大模型变得简单但真正让项目能上线的是权限控制和可观测性。本文从招聘 JD 出发拆解 LangChain 开发者的真实能力要求通过一个带权限控制和日志追踪的 Agent 实战案例说明从 Demo 到生产环境的差距在哪以及怎么练。---目录LangChain 能解决什么问题核心组件别被名词吓到Prompt 与 Chain从拼字符串到结构化工具调用Agent 的起点项目实战带权限和日志的搜索 Agent总结练习顺序和简历建议---LangChain 能解决什么问题很多人学 LangChain 是从调通一个 ChatGPT开始的这没错但容易停在 Demo 阶段。我面试过不少候选人简历上写着用 LangChain 实现了 RAG 问答一问细节就露馅没有权限控制、没有日志追踪、出错全靠模型自己猜。招聘 JD 里出现频率最高的几个词是权限管理、日志记录、可观测性、错误处理。这些才是区分能跑 Demo和能上线项目的门槛。LangChain 解决的是连接问题和编排问题——怎么把模型、工具、记忆、prompt 串起来。但连接之后谁来保证这个 Agent 不会乱调用接口谁来记录它每一步做了什么谁来在出问题时定位这些是工程化问题不是 LangChain 本身的问题。---核心组件别被名词吓到LangChain 的核心组件就那几个但理解它们的方式决定了你写的代码质量。LLM 和 Chat Model别把这两个当成黑盒。实际开发中你调用的每一个模型都有各自的 token 限制、输出格式要求和价格差异。选模型时先看文档别上来就写代码。Prompt Template这是最容易写出垃圾的地方。很多人直接拼字符串结果 prompt 里混进了用户输入轻则输出质量差重则被注入攻击。用ChatPromptTemplate是底线别偷懒。Tools工具是 Agent 的手脚。写工具时记住两件事输入输出类型要写清楚错误处理要提前考虑。一个没有异常处理的工具会让整个 Agent 崩溃。Memory记忆不是越长越好。实际项目中我见过把整个对话历史都塞进去的token 直接爆炸。用ConversationBufferWindowMemory限制窗口大小或者自己实现摘要逻辑比无脑堆历史更靠谱。---Prompt 与 Chain从拼字符串到结构化Chain 的本质是把多个步骤串起来执行。最简单的 Chain 就是 LCELLangChain Expression Language一行代码搞定。但真正用起来时问题往往出在 prompt 的结构上。举个例子之前有个项目要做智能客服prompt 里既要放系统角色定义又要放对话历史还要放工具返回结果。一开始直接拼字符串结果经常把不同部分的内容搞混模型输出完全不可控。后来改用ChatPromptTemplate的from_messages方法明确区分 system、user、assistant 三种角色输出质量立刻稳定了。from langchain_core.prompts import ChatPromptTemplate, MessagesPlaceholder prompt ChatPromptTemplate.from_messages([ (system, 你是一个客服助手只能回答产品相关问题。如果用户问其他问题礼貌拒绝。), MessagesPlaceholder(chat_history), (human, {input}), MessagesPlaceholder(agent_scratchpad), ])这种写法看起来啰嗦但好处是每一步都清晰出问题也好定位。---工具调用Agent 的起点工具调用是 Agent 的核心能力但也是最容易翻车的地方。写工具时我习惯用tool装饰器同时明确标注输入输出的 schema。这不只是类型提示更是给模型看的——模型会根据 schema 决定什么时候调用、传什么参数。from langchain_core.tools import tool from langchain.tools import Tool tool def search_knowledge_base(query: str) - str: 搜索知识库返回相关文档片段。参数 query 是搜索关键词。 # 实际项目中这里会调用向量数据库 results mock_search(query) return \n.join(results) if results else 未找到相关内容注意注释里写了参数说明模型调用时会更准确。工具写完后要测试边界情况参数为空怎么办调用超时怎么办返回格式不对怎么办这些问题在 Demo 阶段可能被忽略但上线后就是事故。---项目实战带权限和日志的搜索 Agent下面是一个完整的 Agent 示例重点展示权限控制和日志追踪。这个 Agent 的功能是用户提问Agent 决定是否调用搜索工具返回答案。关键区别在于每个工具调用都有权限检查每一步都有日志记录。import logging from typing import Optional from langchain_core.tools import tool from langchain.agents import create_openai_functions_agent, AgentExecutor from langchain_openai import ChatOpenAI from langchain_core.prompts import ChatPromptTemplate, MessagesPlaceholder # 配置日志 logging.basicConfig( levellogging.INFO, format%(asctime)s - %(name)s - %(levelname)s - %(message)s ) logger logging.getLogger(agent) # 权限配置不同角色可访问的工具 PERMISSIONS { user: [search_knowledge_base], admin: [search_knowledge_base, delete_record], } tool def search_knowledge_base(query: str) - str: 搜索知识库返回相关文档片段。 logger.info(f[search_knowledge_base] 调用参数: query{query}) results mock_search(query) logger.info(f[search_knowledge_base] 返回结果数: {len(results)}) return \n.join(results) if results else 未找到相关内容 tool def delete_record(record_id: str) - str: 删除指定记录。仅管理员可用。 logger.info(f[delete_record] 调用参数: record_id{record_id}) # 实际项目中这里会调用数据库 return f记录 {record_id} 已删除 def check_permission(user_role: str, tool_name: str) - bool: 权限检查返回 True 表示允许调用 allowed PERMISSIONS.get(user_role, []) if tool_name not in allowed: logger.warning(f[权限拒绝] 用户角色 {user_role} 尝试调用工具 {tool_name}) return False return True # 构建 Agent llm ChatOpenAI(modelgpt-4o-mini, temperature0) tools [search_knowledge_base, delete_record] # 权限包装拦截越权调用 def wrapped_tools(user_role: str): def wrapper(tool_obj): original_func tool_obj.func def authorized_func(*args, **kwargs): if not check_permission(user_role, tool_obj.name): return f权限不足角色 {user_role} 无法调用 {tool_obj.name} return original_func(*args, **kwargs) authorized_func.__name__ tool_obj.name return Tool(nametool_obj.name, descriptiontool_obj.description, funcauthorized_func) return wrapper prompt ChatPromptTemplate.from_messages([ (system, 你是一个知识库助手。调用工具前请确认你有权限。), MessagesPlaceholder(chat_history, optionalTrue), (human, {input}), MessagesPlaceholder(agent_scratchpad), ]) agent create_openai_functions_agent(llm, tools, prompt) executor AgentExecutor(agentagent, toolstools, verboseTrue) # 执行时传入用户角色 result executor.invoke({ input: 帮我搜索 LangChain 的文档, user_role: user }) print(result[output])这段代码里有两个关键设计权限检查通过check_permission函数和包装器实现。每个工具调用前都会检查用户角色越权调用会返回明确提示而不是直接崩溃。日志追踪每个工具调用都记录参数和返回值方便事后排查问题。生产环境中建议把日志写到文件或服务端不要只打控制台。---总结练习顺序和简历建议从 Demo 到生产建议按这个顺序练习1. 先跑通基础 Chain用 LCEL 串起 prompt、模型、输出解析理解数据流。2. 写工具并测试边界每个工具都要考虑参数校验、异常处理、超时控制。3. 加权限控制区分角色限制工具调用范围。4. 加日志和监控记录每一步输入输出出问题能定位。5. 做错误恢复模型调用失败怎么办工具超时怎么办要有兜底逻辑。简历上写 LangChain 项目时别只写实现了 RAG 问答要写出你解决了什么工程问题。比如设计了权限控制机制防止 Agent 越权调用敏感工具、实现了完整日志追踪定位线上问题平均时间从 30 分钟缩短到 5 分钟。这些才是企业真正在意的能力。---LangChain 让入门变简单了但让项目能上线的是那些不被注意的细节权限、日志、错误处理、可观测性。把 Demo 跑通只是第一步把工程化做到位才是真正拉开差距的地方。资料展示下面是我整理的AI大模型学习资料和工具包预览适合收藏后按主题逐步学习。如果你想看完整资料目录可以在评论区留言「资料」也欢迎告诉我你更关注AI大模型里的哪类内容。
这篇我按“先跑起来、再讲取舍”的方式写《大家都在聊LangChain企业真正需要的却不是更多 Demo》。概念会讲但重点放在代码怎么组织、哪里容易踩坑。摘要LangChain 让调用大模型变得简单但真正让项目能上线的是权限控制和可观测性。本文从招聘 JD 出发拆解 LangChain 开发者的真实能力要求通过一个带权限控制和日志追踪的 Agent 实战案例说明从 Demo 到生产环境的差距在哪以及怎么练。---目录LangChain 能解决什么问题核心组件别被名词吓到Prompt 与 Chain从拼字符串到结构化工具调用Agent 的起点项目实战带权限和日志的搜索 Agent总结练习顺序和简历建议---LangChain 能解决什么问题很多人学 LangChain 是从调通一个 ChatGPT开始的这没错但容易停在 Demo 阶段。我面试过不少候选人简历上写着用 LangChain 实现了 RAG 问答一问细节就露馅没有权限控制、没有日志追踪、出错全靠模型自己猜。招聘 JD 里出现频率最高的几个词是权限管理、日志记录、可观测性、错误处理。这些才是区分能跑 Demo和能上线项目的门槛。LangChain 解决的是连接问题和编排问题——怎么把模型、工具、记忆、prompt 串起来。但连接之后谁来保证这个 Agent 不会乱调用接口谁来记录它每一步做了什么谁来在出问题时定位这些是工程化问题不是 LangChain 本身的问题。---核心组件别被名词吓到LangChain 的核心组件就那几个但理解它们的方式决定了你写的代码质量。LLM 和 Chat Model别把这两个当成黑盒。实际开发中你调用的每一个模型都有各自的 token 限制、输出格式要求和价格差异。选模型时先看文档别上来就写代码。Prompt Template这是最容易写出垃圾的地方。很多人直接拼字符串结果 prompt 里混进了用户输入轻则输出质量差重则被注入攻击。用ChatPromptTemplate是底线别偷懒。Tools工具是 Agent 的手脚。写工具时记住两件事输入输出类型要写清楚错误处理要提前考虑。一个没有异常处理的工具会让整个 Agent 崩溃。Memory记忆不是越长越好。实际项目中我见过把整个对话历史都塞进去的token 直接爆炸。用ConversationBufferWindowMemory限制窗口大小或者自己实现摘要逻辑比无脑堆历史更靠谱。---Prompt 与 Chain从拼字符串到结构化Chain 的本质是把多个步骤串起来执行。最简单的 Chain 就是 LCELLangChain Expression Language一行代码搞定。但真正用起来时问题往往出在 prompt 的结构上。举个例子之前有个项目要做智能客服prompt 里既要放系统角色定义又要放对话历史还要放工具返回结果。一开始直接拼字符串结果经常把不同部分的内容搞混模型输出完全不可控。后来改用ChatPromptTemplate的from_messages方法明确区分 system、user、assistant 三种角色输出质量立刻稳定了。from langchain_core.prompts import ChatPromptTemplate, MessagesPlaceholder prompt ChatPromptTemplate.from_messages([ (system, 你是一个客服助手只能回答产品相关问题。如果用户问其他问题礼貌拒绝。), MessagesPlaceholder(chat_history), (human, {input}), MessagesPlaceholder(agent_scratchpad), ])这种写法看起来啰嗦但好处是每一步都清晰出问题也好定位。---工具调用Agent 的起点工具调用是 Agent 的核心能力但也是最容易翻车的地方。写工具时我习惯用tool装饰器同时明确标注输入输出的 schema。这不只是类型提示更是给模型看的——模型会根据 schema 决定什么时候调用、传什么参数。from langchain_core.tools import tool from langchain.tools import Tool tool def search_knowledge_base(query: str) - str: 搜索知识库返回相关文档片段。参数 query 是搜索关键词。 # 实际项目中这里会调用向量数据库 results mock_search(query) return \n.join(results) if results else 未找到相关内容注意注释里写了参数说明模型调用时会更准确。工具写完后要测试边界情况参数为空怎么办调用超时怎么办返回格式不对怎么办这些问题在 Demo 阶段可能被忽略但上线后就是事故。---项目实战带权限和日志的搜索 Agent下面是一个完整的 Agent 示例重点展示权限控制和日志追踪。这个 Agent 的功能是用户提问Agent 决定是否调用搜索工具返回答案。关键区别在于每个工具调用都有权限检查每一步都有日志记录。import logging from typing import Optional from langchain_core.tools import tool from langchain.agents import create_openai_functions_agent, AgentExecutor from langchain_openai import ChatOpenAI from langchain_core.prompts import ChatPromptTemplate, MessagesPlaceholder # 配置日志 logging.basicConfig( levellogging.INFO, format%(asctime)s - %(name)s - %(levelname)s - %(message)s ) logger logging.getLogger(agent) # 权限配置不同角色可访问的工具 PERMISSIONS { user: [search_knowledge_base], admin: [search_knowledge_base, delete_record], } tool def search_knowledge_base(query: str) - str: 搜索知识库返回相关文档片段。 logger.info(f[search_knowledge_base] 调用参数: query{query}) results mock_search(query) logger.info(f[search_knowledge_base] 返回结果数: {len(results)}) return \n.join(results) if results else 未找到相关内容 tool def delete_record(record_id: str) - str: 删除指定记录。仅管理员可用。 logger.info(f[delete_record] 调用参数: record_id{record_id}) # 实际项目中这里会调用数据库 return f记录 {record_id} 已删除 def check_permission(user_role: str, tool_name: str) - bool: 权限检查返回 True 表示允许调用 allowed PERMISSIONS.get(user_role, []) if tool_name not in allowed: logger.warning(f[权限拒绝] 用户角色 {user_role} 尝试调用工具 {tool_name}) return False return True # 构建 Agent llm ChatOpenAI(modelgpt-4o-mini, temperature0) tools [search_knowledge_base, delete_record] # 权限包装拦截越权调用 def wrapped_tools(user_role: str): def wrapper(tool_obj): original_func tool_obj.func def authorized_func(*args, **kwargs): if not check_permission(user_role, tool_obj.name): return f权限不足角色 {user_role} 无法调用 {tool_obj.name} return original_func(*args, **kwargs) authorized_func.__name__ tool_obj.name return Tool(nametool_obj.name, descriptiontool_obj.description, funcauthorized_func) return wrapper prompt ChatPromptTemplate.from_messages([ (system, 你是一个知识库助手。调用工具前请确认你有权限。), MessagesPlaceholder(chat_history, optionalTrue), (human, {input}), MessagesPlaceholder(agent_scratchpad), ]) agent create_openai_functions_agent(llm, tools, prompt) executor AgentExecutor(agentagent, toolstools, verboseTrue) # 执行时传入用户角色 result executor.invoke({ input: 帮我搜索 LangChain 的文档, user_role: user }) print(result[output])这段代码里有两个关键设计权限检查通过check_permission函数和包装器实现。每个工具调用前都会检查用户角色越权调用会返回明确提示而不是直接崩溃。日志追踪每个工具调用都记录参数和返回值方便事后排查问题。生产环境中建议把日志写到文件或服务端不要只打控制台。---总结练习顺序和简历建议从 Demo 到生产建议按这个顺序练习1. 先跑通基础 Chain用 LCEL 串起 prompt、模型、输出解析理解数据流。2. 写工具并测试边界每个工具都要考虑参数校验、异常处理、超时控制。3. 加权限控制区分角色限制工具调用范围。4. 加日志和监控记录每一步输入输出出问题能定位。5. 做错误恢复模型调用失败怎么办工具超时怎么办要有兜底逻辑。简历上写 LangChain 项目时别只写实现了 RAG 问答要写出你解决了什么工程问题。比如设计了权限控制机制防止 Agent 越权调用敏感工具、实现了完整日志追踪定位线上问题平均时间从 30 分钟缩短到 5 分钟。这些才是企业真正在意的能力。---LangChain 让入门变简单了但让项目能上线的是那些不被注意的细节权限、日志、错误处理、可观测性。把 Demo 跑通只是第一步把工程化做到位才是真正拉开差距的地方。资料展示下面是我整理的AI大模型学习资料和工具包预览适合收藏后按主题逐步学习。如果你想看完整资料目录可以在评论区留言「资料」也欢迎告诉我你更关注AI大模型里的哪类内容。
