本文收录于专栏AI Agent智能体系列—— 专栏系统覆盖 AI Agent 的架构、工具调用、记忆与成本工程实战点击订阅可跟踪后续更新。你的 Agent 跑一天账单烧掉几十万 Token大头不在「思考」而在「复读」——每一轮都要把系统提示词、工具定义、全部历史重新发一遍历史消息常占总消耗的七成以上。这篇给你一套五维省钱清单提示词短句化、Skill 按需加载、Memory 滑动窗口加增量摘要、场景路由分流、模型分级调用并纠正三个高频计费误区输出比输入贵、max_tokens 不是计费开关、思考 Token 按输出计费外加提示词缓存五折起、批量接口错峰五折这些常被漏掉的开关。你能直接拿去先做 Token 审计再逐项优化——经验上 Memory 压缩与提示词缓存见效最快。关键字Token优化、提示词工程、Agent架构、Memory压缩、提示词缓存、模型路由、MCP工具精简、LLM成本控制目录参考资料§1. 引言Token 是怎么悄悄烧没的§2. 提示词用更少的字说更准的话§3. Skill 精简工具挂得越多每轮越贵§4. Memory 压缩历史消息是头号大户§5. 场景取舍不是所有事都值得动用 Agent§6. 模型选型与调用方式钱藏在参数里§7. 综合架构一条完整的省钱流水线§8. 总结四句话 一张优先级清单参考资料本文涉及的厂商计费规则均来自官方一手页面动手前建议对照原文资源链接与本文关系OpenAI Prompt Caching 官方指南—§6.4 缓存折扣与 1,024 Token 门槛的出处Anthropic Prompt Caching 定价公告—缓存读 0.1 倍价、写 1.25 倍价的出处DeepSeek 模型与价格页—§6.4/§6.5 缓存命中价与错峰半价的出处§1. 引言Token 是怎么悄悄烧没的很多人第一次看到 Agent 账单都会愣一下明明只让它「查点资料、写个总结」怎么烧掉几十万 Token原因不复杂。Agent 是「想一想 → 调工具 → 看结果 → 再想一想」的循环而每一轮都要把系统提示词、全部工具定义、所有历史消息原封不动重发一遍——相当于去食堂打饭每打一个菜师傅都把整本菜谱从头念一遍。算笔账系统提示词 2,000 30 个工具定义约 5,000 第 20 轮时的历史 15,000这一轮输入就是 22,000 Token20 轮累计输入近 30 万——而用户真正要的答案可能只有 300 Token。钱烧在「复读」不在「思考」。本文从提示词、Skill、Memory、场景、模型五个维度把可落地的省钱方法过一遍。§2. 提示词用更少的字说更准的话提示词是每轮重发的固定开销改一次轮轮受益。2.1 用「指令式短句」替代「散文式描述」# 低效写法约 80 token 你是一个智能助手你的任务是帮助用户完成各种日常任务。在回答问题时请务必保持礼貌、专业、友好不确定的问题请主动向用户澄清不要随意猜测。 # 高效写法约 30 token 你是助手。回答要准确、简洁。不确定时先澄清。同样的约束省掉约 60% Token而且短指令的执行效果往往更好——散文里的要求模型未必条条记得住。2.2 规则搬进代码能用代码判断的逻辑别进提示词。「输入为空提示重输」这种分支代码层一行if not user_input.strip(): return 请输入有效内容就拦住了。提示词只写需要模型判断力的事语义、歧义、风格确定性的 if-else 全部下沉到代码。2.3 动态拼接固定在前系统提示词按任务类型拆片段、按需拼接——写代码的会话不必带「检索规范」。关键细节固定的部分永远放前面、变化的部分放最后这直接决定 §6.4 的提示词缓存能否命中。2.4 用「示例」代替「长篇解释」20 Token 的具体示例常胜过 80 Token 的抽象规则模型模仿示例比理解规则稳。但示例本身也占 Token——高频重复的固定任务不如直接微调/蒸馏一个小模型把示例「焊」进权重。§3. Skill 精简工具挂得越多每轮越贵在 Function Calling 或 MCP 架构下工具定义名称、描述、参数 Schema跟着每一轮请求发送一个工具通常 100~300 Token挂 30 个每轮就多烧 3,000~9,000 Token 的「底座」——哪怕这一轮只用得上 1 个。3.1 按需加载而非全量注册别把工具箱整个扛上。先花一次廉价调用做意图分类再只挂对应的那组工具——分类用小模型甚至规则就行省下的却是每一轮的固定开销。3.2 描述删废话但别删语义# 低效宣传式描述 get_weather(city, date, unitcelsius) - 获取指定城市在指定日期的天气情况支持摄氏度和华氏度单位切换返回温度、湿度、风力、降水概率等详细信息。 # 高效一句话 关键语义 get_weather(city, date) - 查询城市当日天气返回温度、湿度、风力。删形容词和营销话术留参数含义、单位、返回内容——模型选工具、填参数全靠描述删过头一次调用失败重来的开销比省下的几十 Token 贵得多。判断标准模型只读描述能否正确调用能就够了。3.3 合并高频小工具总被连着调用的工具搜索 → 开网页 → 抽正文可合并成一步省掉中间往返。但参数越多模型越容易填错——只合并总是一起用、参数少的组合参数一大堆的「上帝工具」反而是坑。3.4 定期审计使用率在日志里统计每个工具的实际调用率长期零调用的下线或降级为按需加载。没人用的工具最贵——它每轮都在白白交房租。§4. Memory 压缩历史消息是头号大户多轮 Agent 对话里历史消息常占总 Token 的七成以上这是省 Token 收益最明显的环节。4.1 滑动窗口按「轮」切别按条数切只带最近 N 轮原文更早的转摘要。这里有个必踩的坑一轮不只有「用户 助手」两条中间还夹着工具调用和工具返回——按条数切会把调用和结果拆散在窗口两侧API 直接报 400。切割必须以「轮」为单位成组进出system flatten(rounds[-N:])。4.2 摘要要增量不要全量重算「每次把全部历史重新总结一遍」等于每轮都花一次全量上下文的钱去做总结越总结越贵。正确姿势是增量合并只把刚被挤出窗口的那几轮并进旧摘要——像会议纪要补写新内容而不是每次重听整场录音。4.3 结论入库过程丢弃有长期价值的是结论不是过程「讨论了三种方案最后选了 B」占 2,000 Token「选 B原因是 X」只要 30。把事实偏好、已完成、待办抽成结构化数据存库用时检索注入短期窗口管当下长期记忆按需取。4.4 工具结果掐头留尾最好一开始就别取全文网页全文、日志是最容易失控的输入源。截断时掐头留尾——结论常在末尾更好的做法是让过滤发生在工具层检索只返回 top-k 相关段落查库只 SELECT 需要的列别把垃圾运到模型门口再扔。§5. 场景取舍不是所有事都值得动用 Agent一句话判据能提前画出流程图的任务不需要 Agent每步做什么取决于上一步结果的才是。适合 Agent不适合更省的替代多步骤工具编排中间结果决定下一步固定流程 → 传统代码写死动态规划步骤无法预先写死高频低复杂度查询 → 直调 API多来源交叉验证后下结论纯文本生成 → 单次 LLM 调用入口处加轻量分类器做路由简单请求直接走规则引擎或单次调用复杂任务才进完整 Agent。线上请求大多是简单的一个二八开的路由常能砍掉一半总开销。重复性高的请求再加结果缓存——命中即零 Token语义级重复可向量检索做「相似问题直答」。§6. 模型选型与调用方式钱藏在参数里6.1 按任务难度分级选模型任务类型推荐档位理由意图分类、实体抽取、路由判断小模型本地 7B~13B 或厂商最轻档任务简单足够用跑本地更是零 API 费工具调用、结构化输出中档模型要一定的指令跟随和推理能力复杂推理、长文写作旗舰模型质量优先钱花在刀刃上6.2 max_tokens 不是计费开关常见误解「设了 max_tokens 就按这个数计费」。不是——计费按实际生成量算max_tokens 只是止损阀防模型跑飞复读、循环、写不完时损失失控。它省的是最坏情况的钱日常省钱靠控制输出格式本身。6.3 输出比输入贵窗口本身不要钱主流厂商输出单价是输入的 2~5 倍——同样省 1,000 Token从输出省更值钱要求要点式/结构化输出、在提示词里写明长度约束「不超过 100 字」「只输出结论和依据」、长文先大纲后分段避免整篇写完方向不对从头重来。另外上下文窗口不是计费单位发出去的 Token 才是——大窗口塞得下不等于免费每一轮都在为它付费。6.4 提示词缓存最容易被忽视的大折扣多次请求前缀完全相同时厂商可复用已算过的部分命中价远低于正常输入价OpenAI1,024 Token 以上的重复前缀自动缓存命中约五折新模型更低无需配置Anthropic需显式标记缓存点命中读价为原价的 0.1 倍写入收 1.25 倍DeepSeek硬盘缓存自动命中命中价与未命中差一个数量级以上公开牌价命中输入约 0.02~0.30 元/百万 Token未命中 1~9 元。Agent 天然占优系统提示词和工具定义本来就不变所有不变的内容放最前、当前对话放最后多轮循环的前缀就能一直命中。最常见的翻车往系统提示词里塞「当前时间14:32:07」这种每秒都变的内容——前缀缓存瞬间全废等于每次都全价重算。动态信息放消息末尾。6.5 批量接口与错峰用等待换折扣不要求实时返回的任务夜间批处理、离线分类、语料清洗走 Batch API价格普遍五折OpenAI、Anthropic、Google 均如此国内厂商另有错峰优惠如 DeepSeek 空闲时段整体半价。白天攒批、夜里跑是技术含量最低的省钱法。6.6 推理模型的思考 Token 与流式中断带思考链的推理模型「内心戏」也按输出 Token 计费——答案只有 300 Token账单可能是 3,000。对策简单任务关掉思考或直接用非推理模型必须用时设思考预算上限对账时把思考 Token 单独拆出来统计。再配合流式输出——检测到答案已完整就主动断流收尾的客套话一个字都是白花钱。§7. 综合架构一条完整的省钱流水线把前面的方法串成一条流水线简单复杂用户请求意图路由小模型 / 规则分类缓存 / 规则引擎 / 单次调用动态拼接提示词静态在前动态在后按需加载 Skill 组Agent 多轮执行命中提示词缓存Memory 压缩滑动窗口 增量摘要工具结果截断 / 结构化提取输出控制格式约束 流式中断7.1 落地清单维度动作提示词短句指令规则下沉代码固定在前动态在后Skill按需加载描述删废话留语义零调用工具下线Memory滑动窗口按轮切增量摘要结论入库工具层先过滤场景路由分流缓存优先能画流程图的不用 Agent模型分级选型控输出长度提示词缓存批量/错峰警惕思考 Token§8. 总结四句话 一张优先级清单省 Token 是贯穿「提示词 → 工具 → 记忆 → 场景 → 模型」的系统工程核心就四句话能不发的就不发精简提示词、按需挂工具、工具层先过滤再返回。能复用的就复用提示词缓存、结果缓存、批量接口——静态内容放前面让前缀一直命中。能不用 Agent 就不用路由和缓存把简单请求挡在门外。能用小模型就不用大模型按任务难度对齐档位简单任务关掉思考。动手顺序先做一次 Token 审计记录每轮输入/输出/缓存命中/思考 Token按任务聚合找到占比最高的环节再优化。经验上提示词缓存和 Memory 压缩见效最快——前者调整消息顺序就能拿到五折起步的折扣后者直接砍掉最大头的复读开销。系列导航专栏全集AI Agent智能体系列更多专栏见下表我的专栏蛋白 / 抗体 / 多肽 / 核酸分子模拟 / 动力学 / 对接药物 / 设计 / 案例AI / Agent / 大模型开源蛋白结构预测分子模拟基础小分子药物设计案例AI Agent系列开源蛋白生成方法实践分子动力学模拟-Amber蛋白药物设计案例化学大模型开源多肽设计模型分子动力学模拟-Gromacs多肽药物设计案例《AI Agent原理与实战》开源多肽性质预测分子动力学模拟-OpenMM开源小分子生成设计CADD中的机器学习模型DNA/RNA药物设计結合自由能高效计算配置《MCP 入门实战》siRNA药物设计模型UCSF DOCK系列我胡师兄说药《AI入门实战2026》ASO药物设计模型rDock系列 LeDock系列 gnina系列《经典机器学习实战》
本文收录于专栏AI Agent智能体系列—— 专栏系统覆盖 AI Agent 的架构、工具调用、记忆与成本工程实战点击订阅可跟踪后续更新。你的 Agent 跑一天账单烧掉几十万 Token大头不在「思考」而在「复读」——每一轮都要把系统提示词、工具定义、全部历史重新发一遍历史消息常占总消耗的七成以上。这篇给你一套五维省钱清单提示词短句化、Skill 按需加载、Memory 滑动窗口加增量摘要、场景路由分流、模型分级调用并纠正三个高频计费误区输出比输入贵、max_tokens 不是计费开关、思考 Token 按输出计费外加提示词缓存五折起、批量接口错峰五折这些常被漏掉的开关。你能直接拿去先做 Token 审计再逐项优化——经验上 Memory 压缩与提示词缓存见效最快。关键字Token优化、提示词工程、Agent架构、Memory压缩、提示词缓存、模型路由、MCP工具精简、LLM成本控制目录参考资料§1. 引言Token 是怎么悄悄烧没的§2. 提示词用更少的字说更准的话§3. Skill 精简工具挂得越多每轮越贵§4. Memory 压缩历史消息是头号大户§5. 场景取舍不是所有事都值得动用 Agent§6. 模型选型与调用方式钱藏在参数里§7. 综合架构一条完整的省钱流水线§8. 总结四句话 一张优先级清单参考资料本文涉及的厂商计费规则均来自官方一手页面动手前建议对照原文资源链接与本文关系OpenAI Prompt Caching 官方指南—§6.4 缓存折扣与 1,024 Token 门槛的出处Anthropic Prompt Caching 定价公告—缓存读 0.1 倍价、写 1.25 倍价的出处DeepSeek 模型与价格页—§6.4/§6.5 缓存命中价与错峰半价的出处§1. 引言Token 是怎么悄悄烧没的很多人第一次看到 Agent 账单都会愣一下明明只让它「查点资料、写个总结」怎么烧掉几十万 Token原因不复杂。Agent 是「想一想 → 调工具 → 看结果 → 再想一想」的循环而每一轮都要把系统提示词、全部工具定义、所有历史消息原封不动重发一遍——相当于去食堂打饭每打一个菜师傅都把整本菜谱从头念一遍。算笔账系统提示词 2,000 30 个工具定义约 5,000 第 20 轮时的历史 15,000这一轮输入就是 22,000 Token20 轮累计输入近 30 万——而用户真正要的答案可能只有 300 Token。钱烧在「复读」不在「思考」。本文从提示词、Skill、Memory、场景、模型五个维度把可落地的省钱方法过一遍。§2. 提示词用更少的字说更准的话提示词是每轮重发的固定开销改一次轮轮受益。2.1 用「指令式短句」替代「散文式描述」# 低效写法约 80 token 你是一个智能助手你的任务是帮助用户完成各种日常任务。在回答问题时请务必保持礼貌、专业、友好不确定的问题请主动向用户澄清不要随意猜测。 # 高效写法约 30 token 你是助手。回答要准确、简洁。不确定时先澄清。同样的约束省掉约 60% Token而且短指令的执行效果往往更好——散文里的要求模型未必条条记得住。2.2 规则搬进代码能用代码判断的逻辑别进提示词。「输入为空提示重输」这种分支代码层一行if not user_input.strip(): return 请输入有效内容就拦住了。提示词只写需要模型判断力的事语义、歧义、风格确定性的 if-else 全部下沉到代码。2.3 动态拼接固定在前系统提示词按任务类型拆片段、按需拼接——写代码的会话不必带「检索规范」。关键细节固定的部分永远放前面、变化的部分放最后这直接决定 §6.4 的提示词缓存能否命中。2.4 用「示例」代替「长篇解释」20 Token 的具体示例常胜过 80 Token 的抽象规则模型模仿示例比理解规则稳。但示例本身也占 Token——高频重复的固定任务不如直接微调/蒸馏一个小模型把示例「焊」进权重。§3. Skill 精简工具挂得越多每轮越贵在 Function Calling 或 MCP 架构下工具定义名称、描述、参数 Schema跟着每一轮请求发送一个工具通常 100~300 Token挂 30 个每轮就多烧 3,000~9,000 Token 的「底座」——哪怕这一轮只用得上 1 个。3.1 按需加载而非全量注册别把工具箱整个扛上。先花一次廉价调用做意图分类再只挂对应的那组工具——分类用小模型甚至规则就行省下的却是每一轮的固定开销。3.2 描述删废话但别删语义# 低效宣传式描述 get_weather(city, date, unitcelsius) - 获取指定城市在指定日期的天气情况支持摄氏度和华氏度单位切换返回温度、湿度、风力、降水概率等详细信息。 # 高效一句话 关键语义 get_weather(city, date) - 查询城市当日天气返回温度、湿度、风力。删形容词和营销话术留参数含义、单位、返回内容——模型选工具、填参数全靠描述删过头一次调用失败重来的开销比省下的几十 Token 贵得多。判断标准模型只读描述能否正确调用能就够了。3.3 合并高频小工具总被连着调用的工具搜索 → 开网页 → 抽正文可合并成一步省掉中间往返。但参数越多模型越容易填错——只合并总是一起用、参数少的组合参数一大堆的「上帝工具」反而是坑。3.4 定期审计使用率在日志里统计每个工具的实际调用率长期零调用的下线或降级为按需加载。没人用的工具最贵——它每轮都在白白交房租。§4. Memory 压缩历史消息是头号大户多轮 Agent 对话里历史消息常占总 Token 的七成以上这是省 Token 收益最明显的环节。4.1 滑动窗口按「轮」切别按条数切只带最近 N 轮原文更早的转摘要。这里有个必踩的坑一轮不只有「用户 助手」两条中间还夹着工具调用和工具返回——按条数切会把调用和结果拆散在窗口两侧API 直接报 400。切割必须以「轮」为单位成组进出system flatten(rounds[-N:])。4.2 摘要要增量不要全量重算「每次把全部历史重新总结一遍」等于每轮都花一次全量上下文的钱去做总结越总结越贵。正确姿势是增量合并只把刚被挤出窗口的那几轮并进旧摘要——像会议纪要补写新内容而不是每次重听整场录音。4.3 结论入库过程丢弃有长期价值的是结论不是过程「讨论了三种方案最后选了 B」占 2,000 Token「选 B原因是 X」只要 30。把事实偏好、已完成、待办抽成结构化数据存库用时检索注入短期窗口管当下长期记忆按需取。4.4 工具结果掐头留尾最好一开始就别取全文网页全文、日志是最容易失控的输入源。截断时掐头留尾——结论常在末尾更好的做法是让过滤发生在工具层检索只返回 top-k 相关段落查库只 SELECT 需要的列别把垃圾运到模型门口再扔。§5. 场景取舍不是所有事都值得动用 Agent一句话判据能提前画出流程图的任务不需要 Agent每步做什么取决于上一步结果的才是。适合 Agent不适合更省的替代多步骤工具编排中间结果决定下一步固定流程 → 传统代码写死动态规划步骤无法预先写死高频低复杂度查询 → 直调 API多来源交叉验证后下结论纯文本生成 → 单次 LLM 调用入口处加轻量分类器做路由简单请求直接走规则引擎或单次调用复杂任务才进完整 Agent。线上请求大多是简单的一个二八开的路由常能砍掉一半总开销。重复性高的请求再加结果缓存——命中即零 Token语义级重复可向量检索做「相似问题直答」。§6. 模型选型与调用方式钱藏在参数里6.1 按任务难度分级选模型任务类型推荐档位理由意图分类、实体抽取、路由判断小模型本地 7B~13B 或厂商最轻档任务简单足够用跑本地更是零 API 费工具调用、结构化输出中档模型要一定的指令跟随和推理能力复杂推理、长文写作旗舰模型质量优先钱花在刀刃上6.2 max_tokens 不是计费开关常见误解「设了 max_tokens 就按这个数计费」。不是——计费按实际生成量算max_tokens 只是止损阀防模型跑飞复读、循环、写不完时损失失控。它省的是最坏情况的钱日常省钱靠控制输出格式本身。6.3 输出比输入贵窗口本身不要钱主流厂商输出单价是输入的 2~5 倍——同样省 1,000 Token从输出省更值钱要求要点式/结构化输出、在提示词里写明长度约束「不超过 100 字」「只输出结论和依据」、长文先大纲后分段避免整篇写完方向不对从头重来。另外上下文窗口不是计费单位发出去的 Token 才是——大窗口塞得下不等于免费每一轮都在为它付费。6.4 提示词缓存最容易被忽视的大折扣多次请求前缀完全相同时厂商可复用已算过的部分命中价远低于正常输入价OpenAI1,024 Token 以上的重复前缀自动缓存命中约五折新模型更低无需配置Anthropic需显式标记缓存点命中读价为原价的 0.1 倍写入收 1.25 倍DeepSeek硬盘缓存自动命中命中价与未命中差一个数量级以上公开牌价命中输入约 0.02~0.30 元/百万 Token未命中 1~9 元。Agent 天然占优系统提示词和工具定义本来就不变所有不变的内容放最前、当前对话放最后多轮循环的前缀就能一直命中。最常见的翻车往系统提示词里塞「当前时间14:32:07」这种每秒都变的内容——前缀缓存瞬间全废等于每次都全价重算。动态信息放消息末尾。6.5 批量接口与错峰用等待换折扣不要求实时返回的任务夜间批处理、离线分类、语料清洗走 Batch API价格普遍五折OpenAI、Anthropic、Google 均如此国内厂商另有错峰优惠如 DeepSeek 空闲时段整体半价。白天攒批、夜里跑是技术含量最低的省钱法。6.6 推理模型的思考 Token 与流式中断带思考链的推理模型「内心戏」也按输出 Token 计费——答案只有 300 Token账单可能是 3,000。对策简单任务关掉思考或直接用非推理模型必须用时设思考预算上限对账时把思考 Token 单独拆出来统计。再配合流式输出——检测到答案已完整就主动断流收尾的客套话一个字都是白花钱。§7. 综合架构一条完整的省钱流水线把前面的方法串成一条流水线简单复杂用户请求意图路由小模型 / 规则分类缓存 / 规则引擎 / 单次调用动态拼接提示词静态在前动态在后按需加载 Skill 组Agent 多轮执行命中提示词缓存Memory 压缩滑动窗口 增量摘要工具结果截断 / 结构化提取输出控制格式约束 流式中断7.1 落地清单维度动作提示词短句指令规则下沉代码固定在前动态在后Skill按需加载描述删废话留语义零调用工具下线Memory滑动窗口按轮切增量摘要结论入库工具层先过滤场景路由分流缓存优先能画流程图的不用 Agent模型分级选型控输出长度提示词缓存批量/错峰警惕思考 Token§8. 总结四句话 一张优先级清单省 Token 是贯穿「提示词 → 工具 → 记忆 → 场景 → 模型」的系统工程核心就四句话能不发的就不发精简提示词、按需挂工具、工具层先过滤再返回。能复用的就复用提示词缓存、结果缓存、批量接口——静态内容放前面让前缀一直命中。能不用 Agent 就不用路由和缓存把简单请求挡在门外。能用小模型就不用大模型按任务难度对齐档位简单任务关掉思考。动手顺序先做一次 Token 审计记录每轮输入/输出/缓存命中/思考 Token按任务聚合找到占比最高的环节再优化。经验上提示词缓存和 Memory 压缩见效最快——前者调整消息顺序就能拿到五折起步的折扣后者直接砍掉最大头的复读开销。系列导航专栏全集AI Agent智能体系列更多专栏见下表我的专栏蛋白 / 抗体 / 多肽 / 核酸分子模拟 / 动力学 / 对接药物 / 设计 / 案例AI / Agent / 大模型开源蛋白结构预测分子模拟基础小分子药物设计案例AI Agent系列开源蛋白生成方法实践分子动力学模拟-Amber蛋白药物设计案例化学大模型开源多肽设计模型分子动力学模拟-Gromacs多肽药物设计案例《AI Agent原理与实战》开源多肽性质预测分子动力学模拟-OpenMM开源小分子生成设计CADD中的机器学习模型DNA/RNA药物设计結合自由能高效计算配置《MCP 入门实战》siRNA药物设计模型UCSF DOCK系列我胡师兄说药《AI入门实战2026》ASO药物设计模型rDock系列 LeDock系列 gnina系列《经典机器学习实战》
