193、Agent云平台：AWS阿里云服务那天下午我盯着阿里云函数计算的日志，一行一行地翻，全是RequestTimeout。明明本地跑Agent好好的，一旦上了云，超过三秒就断。我第一反应是代码没优化，但仔细看，Agent在等大模型返回，一个简单的链式调用，光LLM推理就要两三秒，再加上工具调用的网络开销，三秒哪够。后来才意识到，函数计算的默认同步调用超时阈值就是三秒，我压根没改配置。这不是代码BUG，是平台预设的“思维模式”跟Agent那种长时间思考的工作流不匹配。那之后我把这件事翻来覆去地琢磨，Agent这玩意儿本质上是有状态的、多轮循环的、随时要跟外部工具打交道的过程。你在本地随便起一个Python进程，while循环里慢慢调，没人管你。但云平台天生是“无状态函数”的思维，进来一个事件，你算完，出去，完事。超时、资源释放、并发限制，全按这个设计来。所以把Agent塞进云平台，不是写个部署脚本那么简单，你得先理解这张网里哪些东西会掐住你脖子。先说AWS那边。AWS现在主推Bedrock Agent，名字听着挺唬人，其实就是个托管的智能体服务，能帮你维护会话状态、规划任务、调用工具。它的底层是Claude或Llama这类模型，但真正干活的是Lambda函数和Step Functions状态机。我当时在Lambda里写了一个action handler，用来执行Agent发出的工具调用，比如查数据库、发邮件。第一次测试，Agent给我返回一个JSON，说“好的，我要调用send_email这个动作”，然后Lambda要执行这个动作并把结果传回去。我以为是同步的，结果发现Lambda函数第一次运行冷启动花了5秒，加上模型推理时间，整个一次工具调用来回要十几秒。
193、Agent云平台：AWS阿里云服务那天下午我盯着阿里云函数计算的日志，一行一行地翻，全是RequestTimeout。明明本地跑Agent好好的，一旦上了云，超过三秒就断。我第一反应是代码没优化，但仔细看，Agent在等大模型返回，一个简单的链式调用，光LLM推理就要两三秒，再加上工具调用的网络开销，三秒哪够。后来才意识到，函数计算的默认同步调用超时阈值就是三秒，我压根没改配置。这不是代码BUG，是平台预设的“思维模式”跟Agent那种长时间思考的工作流不匹配。那之后我把这件事翻来覆去地琢磨，Agent这玩意儿本质上是有状态的、多轮循环的、随时要跟外部工具打交道的过程。你在本地随便起一个Python进程，while循环里慢慢调，没人管你。但云平台天生是“无状态函数”的思维，进来一个事件，你算完，出去，完事。超时、资源释放、并发限制，全按这个设计来。所以把Agent塞进云平台，不是写个部署脚本那么简单，你得先理解这张网里哪些东西会掐住你脖子。先说AWS那边。AWS现在主推Bedrock Agent，名字听着挺唬人，其实就是个托管的智能体服务，能帮你维护会话状态、规划任务、调用工具。它的底层是Claude或Llama这类模型，但真正干活的是Lambda函数和Step Functions状态机。我当时在Lambda里写了一个action handler，用来执行Agent发出的工具调用，比如查数据库、发邮件。第一次测试，Agent给我返回一个JSON，说“好的，我要调用send_email这个动作”，然后Lambda要执行这个动作并把结果传回去。我以为是同步的，结果发现Lambda函数第一次运行冷启动花了5秒，加上模型推理时间，整个一次工具调用来回要十几秒。
平方复杂度无法被常规优化消除｜TaoToken 统一 Key 通道实测)
