SummarizationMiddleware和HumanInTheLoopMiddleware)
文章目录1 模型初始化2 SummarizationMiddleware中间件2.1 参数说明2.1.1 参数1：model—用于摘要的模型2.1.2 参数2：trigger—摘要触发条件2.1.3 参数3：keep—摘要时保留的原始消息2.1.4 参数4：token_counter—统计token数量的函数2.1.5 参数5：summary_prompt—摘要时的自定义提示词2.1.6 参数6：trim_token_to_summarize—摘要时历史消息的最大token数2.2 示例一(测试trigger和keep参数)2.3 示例二(测试summary_prompt参数)3 HumanInTheLoopMiddleware中间件3.1 参数说明3.1.1 参数1：interrupt_on—工具名和中断策略的映射3.1.2 参数2：description_prefix—自定义中断描述3.2 举例3.2.1举例过程1(调用前中断)3.2.2 举例过程2(指明工具调用请求决策)SummarizationMiddleware中间件，对历史消息列表进行摘要总结 ，达到压缩上下文的效果。HumanInTheLoopMiddleware(人在环中间件、人工审核中间件)在工具调用前中断Agent运行，等待用户对工具调用请求决策。1 模型初始化from langchain_openaiimportChatOpenAI from dotenvimportload_dotenvimportos load_dotenv(override=True)#通过ChatOpenAI 连接模型API_KEY=os.getenv("API_KEY")BASE_URL
文章目录1 模型初始化2 SummarizationMiddleware中间件2.1 参数说明2.1.1 参数1：model—用于摘要的模型2.1.2 参数2：trigger—摘要触发条件2.1.3 参数3：keep—摘要时保留的原始消息2.1.4 参数4：token_counter—统计token数量的函数2.1.5 参数5：summary_prompt—摘要时的自定义提示词2.1.6 参数6：trim_token_to_summarize—摘要时历史消息的最大token数2.2 示例一(测试trigger和keep参数)2.3 示例二(测试summary_prompt参数)3 HumanInTheLoopMiddleware中间件3.1 参数说明3.1.1 参数1：interrupt_on—工具名和中断策略的映射3.1.2 参数2：description_prefix—自定义中断描述3.2 举例3.2.1举例过程1(调用前中断)3.2.2 举例过程2(指明工具调用请求决策)SummarizationMiddleware中间件，对历史消息列表进行摘要总结 ，达到压缩上下文的效果。HumanInTheLoopMiddleware(人在环中间件、人工审核中间件)在工具调用前中断Agent运行，等待用户对工具调用请求决策。1 模型初始化from langchain_openaiimportChatOpenAI from dotenvimportload_dotenvimportos load_dotenv(override=True)#通过ChatOpenAI 连接模型API_KEY=os.getenv("API_KEY")BASE_URL
