这是一篇 2026 年 7 月、来自 LMMs-Lab / NTU MMLab / 微软的 16 页技术报告。核心主张一句话概括智能体技能优化不需要复杂流程——把轨迹当文件、让编程智能体直接调试一行斜杠命令即可完成自我进化。下面从研究逻辑、理论分析、方法设计、实验到扩展应用分五部分为您梳理并配三张图帮助理解。一、研究背景与要解决的问题论文的出发点是智能体工程的一个现实智能体的真实能力由三样东西共同决定——基础 LLM、操作脚手架harness 和领域技能文本提示/启发式。推理时基础模型是冻结的所以工程重心落在反复打磨技能文档上而文本的细微差异会引发任务性能的非线性波动这正是自动化技能优化要管理的问题。现有方法从开环反思Reflexion、Voyager一路演进到 SkillOpt 这类复杂流程小批量树合并、文本学习率调度、拒绝编辑缓冲区等架构日益繁重。论文尖锐地追问什么才是最小可行流程使得每个组件都有理论或经验上的必要性下图概括了全文的研究逻辑链二、理论分析把技能优化放进零阶优化与 PAC 学习的框架第 2 节论文首先做了一件“正名”的工作把智能体技能优化形式化为期望奖励最大化 f(s) E[R(H(M, z, s))]其中技能 s 是离散文本、LLM 与环境组合不可微因此智能体-环境交互天然是一个零阶ZO优化预言机。作者系统梳理了文献中的复杂机制与经典 ZO 概念的对应关系论文表 1单轨迹反思Reflexion、Voyager→ 单点梯度估计对比诊断SkillCat→ 中心差分故障隔离编辑SkillAdapter→ 坐标下降编辑预算SkillOpt、SkillForge→ 信赖域半径拒绝编辑缓冲区SkillOpt→ 控制变量方差缩减。在此基础上论文给出了四点核心洞见概念分歧洞见 1经典 ZO 只能盲目数值扰动一个黑盒函数而智能体推文产生的是可读、语义丰富的执行轨迹——所以技能优化本质是“以语言为媒介的程序编译”技能库是程序仓库LLM 既是编译器也是运行时轨迹就是可解释的调试信息。稳定性与过拟合洞见 2由 PAC 学习泛化误差 ≤ 经验误差 O(β_exp·√(ln(1/δ)/N))其中 β_exp 是算法的期望稳定性系数。对单次试验异常过拟合会放大 β_exp、导致泛化崩溃因此优化器必须是“压缩算子”挖掘跨轨迹共识而非做复杂的树归约。独立验证洞见 3不相交验证集能把 β_exp 从模型选择界中消去但前提是验证集与训练严格统计独立。论文点名批评了 Reflexion完全无验证以及 SkillCat/SkillAdapter/Trace2Skill拿训练失败实例做门控对这一原则的违反。三、方法设计SkillOpt-Lite第 3 节方法源于一个关键先导实验洞见 4即“技能优化的苦涩教训”把轨迹全部存成平面文件让 GitHub Copilot 只用原始文件系统工具做单批修改——结果在 LiveMath 和 DocVQA 上就超过了 SkillOpt 跑 4 个 epoch 的成绩但在 Spreadsheet 上性能退化证明验证门控不可丢弃。结论是随着基础模型变强复杂的定制优化拓扑反而适得其反原始文件探索才是王道。由此得到 SkillOpt-Lite 的四步流程它只保留三个组件砍掉了小批量反思池化、学习率调度、拒绝缓冲区和 epoch 级慢更新添加到对话下载到本地工程上整个循环被封装为一个 VS Code Copilot 扩展开发者输入/skillopt-loop rounds10 batchsize40 targetgpt5.4-nano即可触发——这就是标题里“一行 Vibe”的含义。四、实验验证第 4 节实验在 6 个基准SearchQA、Spreadsheet、ALFWorld、LiveMath、DocVQA、OfficeQA上、跨 5 个模型规模GPT-4o 到 GPT-5.5展开优化器统一为 GitHub CopilotSkillOpt-Lite 严格在 10 个批次内评估。核心结论有四推理密集型任务大幅提升LiveMath 上 GPT-4o 从 25.9 提到 58.8、GPT-5.5 从 36.6 提到 73.637.0Spreadsheet 上 GPT-5.4 达 79.4基线 SkillOpt 仅 61.5该类任务平均 12.6 分。机制解释是小批量反思池化会把多个文本更新平均掉模糊离散语言空间中的梯度信号去掉它优化器能发出精准的文件级补丁。语义浅层任务持平但更省SearchQA、ALFWorld、OfficeQA 上两种框架差异仅 0.1~1.5 分说明这些域很快饱和复杂基础设施基本冗余。收敛更快复杂域 2~3 步即见效无早期探索平台期基线受小批量划分和慢更新阻尼拖累。小模型逆袭GPT-5.4-nano 在 LiveMath 上 55.7超过跑完整 SkillOpt 的 GPT-5.454.0ALFWorld 达 81.3%。两张图直观呈现最关键的数据左为 LiveMath 技能优化对比右为 SpreadsheetBench 上从技能优化到 harness 联合优化的进阶五、从技能到 harnessHarnessOpt 扩展第 5 节论文的最后一步扩展颇具野心既然“一切智能体组件皆文件”那么把优化目标从单个技能文件放宽到整个 harness 代码库同一套三支柱循环即可自动优化执行脚手架作者称之为HarnessOpt。其设计要点第 0 轮人工门控先跑全量训练推演由诊断子智能体扫描日志、提炼跨任务架构缺陷如缺失工具原语、API 解析不匹配形成结构化配置提案在 VS Code 中经人审批后才动核心代码避免初始 harness 被改崩。之后全自动进化 安全护栏白名单限定可改范围、子进程沙箱冒烟测试N5后才跑完整验证、所有改动 git 可逆并包在特性开关后、用统计死区 Δ 过滤随机波动。SpreadsheetBench 结果仅优化 harness 就已大幅超过纯提示优化nano 0.6619→0.7651轻量级 GPT5.4-nano 联合优化后达 0.7758反超在标准 harness 下跑完整 SkillOpt 的 GPT5.50.7620技能与 harness 联合优化取得全局最优GPT5.4 0.8505、GPT5.5 0.8577。不同模型的瓶颈也被精准修复mini/GPT-5.4 是“观察不足缺最终验证”GPT-5.5/nano 是“推理链在工具失败时死循环”后者通过自动回退策略retry reasoninglow破解。复杂的多智能体池化与更新阻尼机制随基础模型变强大体上是冗余的以“一切皆文件”为指导、把轨迹当平面文件交给编程智能体做语义化调试是技能优化的最小可行形态且能自然泛化到 harness 优化。未来工作列出四个方向面向前沿模型蒸馏的技能优化、harness 模板数据库、把 harness 进化当作持续学习、以及把优化边界从脚本推进到基础模型训练本身数据-模型-harness 全自动协同设计。这篇论文本质上是一次“做减法”的研究——用系统观文件抽象 编程智能体替代算法复杂度并用 ZO 优化和 PAC 学习为“为什么可以减”提供了理论辩护其最有传播力的卖点是把整套流程压缩成 IDE 里的一条斜杠命令以及“小模型 优化过的 harness 胜过前沿模型 标准环境”这一能力反转现象。这里是自己的论文阅读记录感兴趣的话可以参考一下如果需要阅读原文的话可以看这里如下所示项目地址在这里如下所示摘要尽管面向自主智能体的技能优化已受到广泛关注但现有方法在很大程度上依赖于日益复杂的流程。这留下了一个根本性的问题什么才是技能优化的最小可行流程使得每个组件都有理论或经验上的必要性在本篇短文中我们首先通过零阶ZO优化的视角对技能优化进行形式化指出现有文献中的经典对应物如中心差分、信赖域和方差缩减。然而我们识别出一个关键的分歧经典 ZO 依赖于盲目的数值扰动而智能体优化则充当以语言为媒介的程序编译其中轨迹充当可解释的调试反馈。基于 Claude Code 的设计哲学和概率近似正确PAC学习我们识别出支配收敛性与泛化性能的三条基础原则1将轨迹视为文件并用文件系统工具探索它们2在轨迹样本中挖掘共识属性3强制执行严格的独立验证门控。在这些原则的指导下我们移除了现有框架的架构冗余提出 SkillOpt-Lite保留三个核心组件轨迹探索、共识挖掘和验证门控。这一简化加速了收敛并超越了复杂的 SkillOpt 基线在 GPT-5.5 上LiveMath 性能提升 8.8 分在 GPT-5.4-nano 上提升 25.4 分使 nano 模型超过运行完整 SkillOpt 流程的标准 GPT-5.455.7 对 54.0。最后我们将框架集成到生产级编程智能体如 VSCode Copilot中使开发者能够通过一行 Vibe 进化智能体技能。值得注意的是由于我们的框架将所有智能体组件都视为标准可编辑代码这一最小流程可自然地泛化到完整的执行框架harness优化——我们将其命名为 HarnessOpt。在 SpreadsheetBench 上HarnessOpt 使轻量级 GPT5.4-nano 达到 0.7758 的准确率超越了在标准 harness 下运行完整 SkillOpt 流程的大得多的 GPT5.5 模型0.7620。1 引言AI 智能体已从研究原型转变为标准的生产工具[1–3]。实际部署揭示智能体的真实世界能力不仅由其基础大语言模型LLM决定还取决于基础模型、其操作脚手架harness与其领域启发式方法技能之间的相互作用。由于基础模型在推理期间保持冻结智能体工程往往归结为细化这些技能文档——在这一过程中细微的文本差异通常会驱动下游任务性能的非线性差异[4–8]。为了管理这种非线性敏感性自动化技能优化已从开环自我反思[9, 10]演变为复杂的算法流程[8, 11–13]。在现有文献中SkillOpt [4] 通过连续优化类比来形式化文本修订实现了小批量树合并、文本学习率调度和拒绝编辑缓冲区。然而尽管取得了经验上的收益现有框架表现出日益倾向于架构复杂性。它们从经典优化中引入了错综复杂的机制却没有解决一个根本问题什么才是技能优化的最小可行流程使得每个组件都有理论或经验上的必要性在本文中我们通过桥接零阶优化、统计学习理论和系统工程来回答这一问题。我们首先将现有的反思范式映射到零阶ZO优化。如表 1 所详述单轨迹批判[9, 10]对应于单点梯度估计器 ∇f̂(s)对比诊断[13]反映中心差分近似故障隔离编辑[11]镜像沿基向量 e_i 的坐标下降而编辑预算[4, 12]和拒绝缓冲区则实例化了信赖域半径 B 和控制变量 c。然而我们识别出一个关键的概念分歧经典 ZO 依赖于对不可观测状态的盲目数值扰动而智能体推演rollout产生的是显式的、语义丰富的执行轨迹。技能优化从根本上充当以语言为媒介的程序编译其中轨迹充当可解释的调试反馈。为了形式化这种编译器范式我们建立三条基础设计原则。前两条源于 PAC 学习理论1跨轨迹共识挖掘对单次试验异常的过拟合会放大稳定性系数 β_exp导致泛化崩溃。优化器不应执行复杂的树归约而必须充当压缩算子捕捉跨任务不变量。2独立验证门控PAC 界表明保留验证集可将 β_exp 从泛化误差中移除。为防止评估偏差门控必须依赖独立样本而非子采样的训练失败实例。遵循 Unix 和 Claude Code [14] 的“一切皆文件”哲学我们设计了一项先导实验将每条执行轨迹隔离到独立的平面文件中并部署一个自主编程智能体使用原始文件系统工具对其进行细化。经验上我们发现这种单批文件修改可能在多个基准上超越经过四个完整 epoch 优化的完整 SkillOpt 流程这引导我们得出第三条经验原则3技能优化的苦涩教训随着基础 LLM 规模扩大为抑制更新速度而设计的定制拓扑变得适得其反。赋予智能体原始 shell 工具以直接检查原始日志文件始终优于重度工程的基线。综合这些原则我们提出 SkillOpt-Lite——一个移除了小批量反思池化、慢更新阻尼和拒绝缓冲区的最小可行流程。相反SkillOpt-Lite 通过一个完全由轨迹探索、共识挖掘和验证门控组成的自主调试循环直接在磁盘上运行。如图 1 所示这一精简设计在所有六个基准上一致改进完全配置的 SkillOpt 基线。在 Spreadsheet 等逻辑密集型任务上它带来平均 12.6 分的提升69.7 对 57.1。此外如图 1b 所追踪移除反思池化使轻量级模型能够规避早期探索平台期例如在 ALFWorld 上SkillOpt-Lite 将 GPT-5.4-nano 提升至 81.3%比 SkillOpt 高 9.5同时在旗舰基础模型上展现了第一步内即快速收敛的能力如 Spreadsheet-GPT-5.5。最后我们将流程封装为一个开源 VS Code Copilot 扩展允许开发者通过单个斜杠命令触发技能优化。至关重要的是由于我们的框架将所有智能体组件都视为标准可编辑代码在 IDE 环境中解除文件路径限制使这一最小循环能够自然地泛化到完整的 harness 优化——我们将其命名为 HarnessOpt。在 SpreadsheetBench 上HarnessOpt 一致地解决模型特有的瓶颈如推理循环。值得注意的是该框架使轻量级 GPT5.4-nano 达到 0.7758 的准确率超越了在标准 harness 下运行完整 SkillOpt 流程的大得多的 GPT5.5 模型0.7620。总之我们的主要贡献有三方面理论形式化我们将智能体技能训练映射到零阶优化识别其独特的程序编译器本质并导出支配稳定性与验证的核心原则。最小可行流程以文件为中心的哲学为指导我们提出 SkillOpt-Lite经验性地证明用原始文件探索替换复杂优化模块可在多个基线上带来更快的收敛与更优的性能。Harness 扩展与 IDE 封装我们展示该流程可直接扩展到自动化 harness 优化HarnessOpt使轻量级模型通过环境协同设计超越前沿级模型。我们将整个工作流封装为一个 VS Code 扩展实现一行式智能体进化。2 技能优化分析2.1 技能训练与零阶优化2.1.1 算法联系我们将技能优化形式化为期望奖励函数的最大化f(s) E_{z∼D_text}[R(H(M, z, s))]其中 s ∈ S 表示基于文本的技能工件M 是冻结的骨干 LLMz 表示从分布 D_text 中抽取的任务实例H 表示执行 harness。由于 S 的离散性质以及 H 与 M 组合的不可微性梯度 ∇_s f 在解析上难以处理因此智能体-环境交互被建模为一个零阶ZO预言机Oracle。这一公式揭示尽管语义域缺乏连续、光滑的流形现有启发式方法仍利用了与经典 ZO 工具箱[15]相类的组件。形式上我们在连续 ZO 操作与离散文本空间编辑之间建立结构类比文本工件 s 在扰动位置 s μu或沿标准坐标基 e_i处被评估其中 μ 0 表示步长类比物u 是随机搜索方向。在这一统一框架下环境反馈如执行轨迹、错误日志和验证分数充当标量预言机评估 f(s)LLM 驱动的自我反思、补丁生成和技能编辑则充当连续 ZO 算子的离散空间结构类比物如随机梯度估计器 ∇f̂(s)、坐标下降、信赖域约束 B 和方差缩减控制变量 c。因此从单轨迹启发式[9, 10]到结构化多点方差缩减方案[4, 8, 12]的著名智能体工作流均可通过算法零阶优化的视角加以系统分析其映射关系见表 1。表 1零阶优化算子与 LLM/智能体反思范式之间的映射添加到对话ZO 概念公式/算子智能体领域度量文献实现零阶预言机反馈f(sμu)沙箱环境训练性能的标量度量。单点估计∇f̂(s) ∝ f(sμu)u单轨迹反思• Reflexion [9]从单条轨迹直接推导反思。• Voyager [10]单错误信号触发本地程序覆写。多点/小批量(1/B_m) Σ_{i1}^{B_m} [f(sμu_i) − f(s)]u_i批量推演共识提取• Trace2Skill [8]使用 Map-Reduce 进行补丁合并的 ZO-SGD。• SkillOpt [4]迭代反思小批量规模 B_m 8。• SkillForge [12]第二阶段批量工单聚合用于轨迹去噪。中心差分[f(sμu) − f(s−μu)] / (2μ)成败对比分析• SkillCat [13]在动作分歧点 w_i 处对轨迹进行对比分析的自定义 CCE 算子。ZO 坐标下降[f(sμe_i) − f(s)]/μ · e_i故障隔离原子修改• SkillAdapter [11]以故障步骤 t* 为轴、候选技能 s_j 为基向量的坐标下降。信赖域半径B(s_k, Δ_k)结构性编辑约束• SkillOpt [4]编辑预算衰减L_t 4→2。• SkillForge [12]执行最小修改原则。• SoftSkill [16]将软前缀长度限制在 m 32 个 token。控制变量ĝ_t − c_t E[c]历史记忆拒绝• SkillOpt [4]将被拒绝的编辑传入缓冲区作为负控制变量。2.1.2 概念分歧尽管将智能体技能训练映射到 ZO 优化引入了既定的方差缩减方法两种范式之间仍存在一个关键的概念分歧。在经典 ZO 优化中决策变量 s 定义于数值空间内预言机充当严格黑盒仅返回标量奖励 f(s)而详细的运行时轨迹或中间状态转换保持潜在且不可观测。相反技能优化的区别性特征在于每次 LLM 推演都产生一条显式的、结构化的、语义丰富的轨迹其中包含历史试验日志、中间规划原理和运行时错误消息。这些轨迹封装了成功或失败的精确因果链。从这个角度看技能优化从黑盒函数查询转变为一个随机编码问题——技能库充当以自然语言编写的高级软件程序仓库LLM 不仅充当评估器还充当底层编译器与执行运行时而生成的推演轨迹则充当中间程序执行跟踪。传统 ZO 优化被迫通过数值变化盲目近似梯度因为它无法检视底层函数。相比之下技能优化利用可读的执行轨迹进行有针对性的、语义驱动的调试。在 3.2 节中我们介绍 SkillOpt-Lite——一个明确设计用于利用这种程序编译器范式、将语义执行轨迹转换为可操作代码补丁的框架。洞见 1概念分歧经典 ZO 优化依赖于盲目的数值扰动而智能体技能优化充当以语言为媒介的程序编译其中推演轨迹充当可解释的调试反馈。2.2 泛化误差PAC 学习视角尽管被公式化为以语言为媒介的编码过程技能优化仍是由 PAC 学习基础原则支配的统计学习问题。在 PAC 框架下习得的技能库 S 在真实任务分布 D 上的泛化误差 ε(S) 以其经验误差 ε̂_D(S) 加上一个复杂度惩罚为界。该泛化差距可以不依赖静态假设空间的一致容量度量而是通过期望平均稳定性Expected On-Average Stability[17] 的视角被紧密界定ε(S) ≤ ε̂_D(S) O( β_exp · √(ln(1/δ)/N) )其中 N 为训练实例数量β_exp 表示技能细化算法的期望稳定性系数。令 D {z_1, ..., z_N} 为训练数据集D\i 为移除第 i 个任务实例 z_i 后形成的相邻数据集。若优化算法 A 在真实数据分布 D 上的性能方差期望满足E_{D, z∼D} |R(H(M, z, A(D))) − R(H(M, z, A(D\i)))| ≤ β_exp则称算法 A 具有系数为 β_exp 的期望平均稳定性。在语义域中β_exp 衡量算法对偶发性特质episodic idiosyncrasies的统计抵抗力。如果细化过程过拟合于特定样本异常——例如硬编码逐案例分支动作或模仿单次失败试验特有的局部环境变量——稳定性系数 β_exp 将增大导致泛化崩溃。为最小化 β_exp优化算法必须丢弃单样本怪异之处并在异构推演中提取共同属性。这种稳定化压缩迫使进化的技能捕捉不变的结构逻辑而非记忆单次试验轨迹。实际框架通过各种设计强制跨任务共识Trace2Skill [8] 与 SkillForge [12] 将推演聚合为小批量或批量工单池以提取不变的经验教训而 SkillOpt [4] 则通过并行化 LLM 合并执行分层树归约。洞见 2稳定性与过拟合从算法稳定性的角度看一个鲁棒的技能优化算法充当 β_exp 稳定算子确保基于文本的技能突变对单次推演异常保持不变从而捕捉跨任务结构不变量。为在自我进化期间选择最优模型需采用基于验证的模型选择。假设评估度量以 M 为界则经验选择的技能库的泛化误差符合 m 个验证样本上的标准模型选择界[18]ε(S_val) ≤ ε̂_val(S_val) O( √(ln(1/δ)/m) )通过对比这两个泛化界我们揭示了验证协议所解锁的清晰统计红利。在标准训练界中泛化差距锚定于算法的单样本敏感性 β_exp当智能体在表达密集的自然语言空间中搜索时拟合单个样本特征的倾向会惩罚泛化能力。至关重要的是一旦引入不相交的验证集稳定性系数 β_exp 便从模型选择上界中被完全移除。然而这种解耦的统计有效性取决于一条基本规则验证集必须与训练集严格不相交且独立以产生泛化差距的无偏估计。对近期文献的评估揭示了对该验证协议的普遍违反像 Reflexion [9] 这样的工作在开环中完全绕过动态验证而像 SkillCat [13]、SkillAdapter [11] 和 Trace2Skill [8] 这样的框架则通过在源训练失败实例的直接克隆或子采样的训练子集上执行门控损害了验证界。洞见 3独立验证集为保证泛化验证集必须满足双重使命与训练数据严格统计独立以防评估偏差以及足够的样本量 m 以抑制方差界 O(√(ln(1/δ)/m))。3 SkillOpt-Lite3.1 一个激励性示例用编程智能体编写技能如 2.1.2 节所讨论技能优化可被建模为程序编译器范式技能文档充当软件程序LLM 充当底层编译器。为评估这一范式我们开展了一项先导研究模仿 AI 工程师利用商业编程助手细化智能体技能的工作流。具体而言我们收集了 GPT-5.4-nano 优化循环初始批次生成的原始推演轨迹并将其存储为本地文本文件随后部署 GitHub Copilot [19]令其仅通过原始文件系统工具自主探索该目录并给出明确指令诊断跨轨迹的系统性失败模式并将最小修改补丁直接应用于基线技能文件。至关重要的是该助手绕过了所有预定义的数学拓扑——例如 SkillOpt 中使用的小批量切片或分层树归约算子——并且在不执行任何中间验证循环的情况下直接提交这些编辑。随后我们在 Spreadsheet [20]、ALFWorld [21]、LiveMath [22] 和 DocVQA [23] 的下游测试集上评估细化后的技能。图 2单批编程智能体探索与多 epoch 技能优化的经验评估。图中以 SpreadSheet、ALFWorld、LiveMath、DocVQA 四个基准为横轴以各基准的相对准确率基准值 100为纵轴对比了三组柱状结果初始技能Init Skill、SkillOpt4 个 epoch与 Copilot1 个批次。经验结果如图 2 所示揭示了一个有启发性的现象没有迭代循环编程助手的单批文件系统探索即取得了可观的性能提升。值得注意的是在 LiveMath 和 DocVQA 上这种单批未验证的智能体配置甚至超越了基线 SkillOpt 框架经过四个完整 epoch 迭代优化后的表现。这一趋势凸显了语言模型在直接操作原始执行文件时的能力。相反在 Spreadsheet 基准上优化后的技能退化至低于其初始基线的水平这证明了形式化优化流程中闭环验证机制的必要性。洞见 4技能优化的苦涩教训随着基础模型规模扩大为技能更新设计的复杂算法流程可以被“将系统工件视为平面文件并赋予模型原始文件系统导航工具”这一做法持续匹配或超越。3.2 SkillOpt-Lite 流程我们提出 SkillOpt-Lite——一个旨在实现技能优化最小可行流程的精简框架。如图 3 的结构比较所示我们移除了复杂的批级合并、基于文本的学习率调度和历史拒绝编辑缓冲区此外我们弃用了 epoch 级慢更新机制该机制此前需要跨多个 epoch 匹配和比较轨迹以进行元技能反思。相反SkillOpt-Lite 通过一个自主调试循环直接在本地磁盘上运行推演批次被解耦使每条轨迹单独存储为一个文件从而让系统能够使用原生文件系统工具导航、读取并细化技能库。SkillOpt-Lite 的工作流结构如下1. 轨迹暂存Trajectory Staging在冻结智能体 harness 的每批次推演之后原始轨迹——涵盖规划原理、环境状态和任务分数——被直接转储到磁盘成为文本文件。如图 3b 所示每条轨迹存储为独立的日志文件而非聚合进结构化小批量。2. 轨迹探索Trajectory Exploration系统不将整个原始日志语料加载进模型上下文窗口而是利用显式文件系统工具导航工作空间遵循洞见 4 概述的设计原则。在受限的 token 预算下优化器模型执行自主 shell 命令来列出目录、对统一的任务失败进行聚类并选取高杠杆文件进行详细检视。3. 共识挖掘与最小编辑Consensus Mining and Minimal Edit配备文件读取能力后优化器直接从目录中读取这些轨迹文件以发现跨任务不变量与共享失败模式实现洞见 2 的目标。一旦识别出这些模式并为满足有界文本更新的信赖域约束系统遵循最小更新原则生成紧凑的代码 diff 或补丁来解决诊断出的错误。4. 验证门控Validation Gating所提出的补丁被应用于构建候选技能库 S̃并立即在独立验证集上评估以获得无偏的经验分数实现洞见 3 的验证机制。若候选技能优于当前基线分数则被接受为活跃技能 S_{t1}若其还超过历史最佳分数则永久覆写磁盘上的生产技能文件指定为 best_skill.md。被拒绝的更新直接转入历史日志归档。为展示实际效用我们将此流程封装为生产就绪的 VS Code 扩展。开发者可通过单行斜杠命令在开发环境中直接触发完整优化循环/skillopt-loop rounds10 batchsize40 targetgpt5.4-nano [custom_requirements]此集成消除了多智能体平台典型的配置开销提供了一个直接嵌入原生 IDE 环境的交互式、轻量级调试工具。图 3优化流程的结构比较。(a) 原始 SkillOpt 流程[4]训练数据经冻结智能体 harness 推演得到轨迹轨迹按小批量切分交由各小批量优化器模型生成 L 个原子编辑经批级合并duplicate preserves / edit / replace为候选技能 S_{t1}候选技能在独立验证数据上门控当前分数 0.463通过则接受、否则拒绝被拒编辑进入“拒绝编辑历史”缓冲区编辑幅度受学习率调度L_t 衰减约束。此外还有 epoch 级“慢更新”机制比较同一样本在不同 epoch 的轨迹S_t^✓ 与 S_t^✗进行元技能反思并将成功/失败历史记录于 markdown 文件。(b) 提出的 SkillOpt-Lite 流程推演批次中每条轨迹独立存为一个文件优化器模型通过列表与读取工具如用 Bash 列目录探索目录在给定 token 预算内选取文件与行聚类任务类型、寻找共性失败模式诊断生成期望应用于技能文件的编辑候选技能 S_{t1} 在独立验证数据上门控优于当前技能 S_t 则接受否则拒绝编辑历史记入日志。与基线 SkillOpt 相比该精简设计消除了小批量反思池化、慢更新阻尼和历史拒绝缓冲区。(c) 提出的 HarnessOpt 流程由于 SkillOpt-Lite 将所有工件抽象为平面文件操作 harness 自然简化为可编辑代码文件优化器模型使用编程智能体的完整工具集读取 harness提出程序化修改、常见失败模式与改进建议候选 harness H_{t1} 与当前技能 S_{t1} 同样经独立验证门控接受/拒绝并记录编辑历史。由此最小技能流程原生泛化为全规模的 harness 优化框架。4 实验4.1 性能我们的实验配置遵循 SkillOpt 建立的评估协议使用 SearchQA [24]、Spreadsheet [20]、ALFWorld [21]、LiveMath [22]、DocVQA [23] 和 OfficeQA [25]。SkillOpt 与 SkillOpt-Lite 使用完全相同的优化器模型其中以 GitHub Copilot 作为基线编程智能体。在原始数据集划分下LiveMath 与 OfficeQA 仅含 10 到 20 个验证实例导致验证方差偏高为缓解这种经验不稳定性我们将这两个基准的训练-验证-测试划分从 2:1:7 调整为 2:2:6。对于 OfficeQA由于缺少可用的搜索工具 API我们实现了离线评估变体。推理任务上的显著提升LiveMath 与 Spreadsheet——在需要复杂推理和确定性代码执行的任务上SkillOpt-Lite 展现出可观的性能提升。例如在 LiveMath 上相对基线GPT-4o 的绝对准确率从 31.2 升至 58.827.6 分GPT-5.5 从 36.6 升至 73.637.0 分。在 Spreadsheet 上精简流程同样以明显优势超越完整 SkillOpt 框架如 GPT-5.4 上 79.4 对 61.5 分。机制上这种分歧源于基线框架依赖小批量反思池化该操作会平均多个不同的文本更新从而模糊离散语言空间中的隐式梯度信号。通过消除这种平均伪影SkillOpt-Lite 使优化器模型能够发出局部化、离散的文件系统编辑直接解决技能代码库中的逻辑与算法死锁。语义浓重域上的一致界限SearchQA、ALFWorld 与 OfficeQA——相反对于由开放式文本检索或物理环境基础主导的任务两种框架之间的性能差异微乎其微。在 SearchQA、ALFWorld 和 OfficeQA 上SkillOpt-Lite 要么匹配、要么略微超越基线框架波动通常在 0.1 至 1.5 分之间。这种行为源于这些基准的本质它们需要广泛的语义覆盖而非深度、多步的算法执行。由于底层模型在这些浅层文本-动作域中迅速饱和可用的优化余量两种变体都收敛于统计上相似的局部最优。然而至关重要的是我们的精简版本以显著更低的计算开销达到了这一上界——这表明对于浅层、语义浓重的域复杂的优化基础设施在很大程度上是冗余的。表 2不同模型规模下的主要实验结果。 下标表示相对初始基线Init skill的性能增量粗体此处以 N 标注突出每个模型块内的最佳表现SkillOpt 执行 max(4 个 epoch, 10 个批次)而 SkillOpt-Lite 严格在 10 个批次内评估。模型技能来源SearchQASpreadsheetALFWorldLiveMathOfficeQA离线DocVQAGPT-4oInit skill64.644.182.325.921.078.3GPT-4oSkillOpt70.1 (5.5)48.7 (4.6)95.3 (13.0)31.2 (5.3)30.2 (9.2)85.2 (6.9)GPT-4oSkillOpt-Lite71.5 (6.9)49.8 (5.7)97.8 (15.5)58.8 (32.9)32.4 (11.4)86.4 (8.1)GPT-5.4-nanoInit skill50.929.934.326.410.863.4GPT-5.4-nanoSkillOpt68.8 (17.9)51.6 (21.7)71.8 (37.5)30.3 (3.9)18.4 (7.6)80.4 (17.0)GPT-5.4-nanoSkillOpt-Lite66.9 (16.0)66.2 (36.3)81.3 (47.0)55.7 (29.3)15.5 (4.7)82.1 (18.7)GPT-5.4-miniInit skill69.628.282.334.923.085.3GPT-5.4-miniSkillOpt72.3 (2.7)47.5 (19.3)100.0 (17.7)41.2 (6.3)32.1 (9.1)90.9 (5.6)GPT-5.4-miniSkillOpt-Lite73.1 (3.5)73.3 (45.1)100.0 (17.7)63.2 (28.3)30.4 (7.4)92.5 (7.2)GPT-5.4Init skill68.339.988.146.229.787.7GPT-5.4SkillOpt77.5 (9.2)61.5 (21.6)100.0 (11.9)54.0 (7.8)40.2 (10.5)90.3 (2.6)GPT-5.4SkillOpt-Lite76.3 (8.0)79.4 (39.5)100.0 (11.9)66.0 (19.8)45.3 (15.6)91.2 (3.5)GPT-5.5Init skill72.437.490.136.633.289.0GPT-5.5SkillOpt78.8 (6.4)76.2 (38.8)100.0 (9.9)64.8 (28.2)72.2 (39.0)91.2 (2.2)GPT-5.5SkillOpt-Lite79.0 (6.6)79.7 (42.3)100.0 (9.9)73.6 (37.0)76.2 (43.0)94.2 (5.2)4.2 收敛速度为评估所提最小流程的优化效率我们分析了 SkillOpt 与 SkillOpt-Lite 的收敛轨迹。图 4 追踪了在代表性模型规模与基准下、10 个顺序优化区间内的历史最佳验证分数Best val_hard so far。经验轨迹凸显了我们精简框架的两项明显运行优势加速的优化速度与完整 SkillOpt 框架相比SkillOpt-Lite 展现出更陡峭的初始优化轨迹。例如在 LiveMath-GPT-5.5 与 LiveMath-GPT-5.4-nano 等复杂域中SkillOpt-Lite 在最初 2 至 3 步内即获得可观性能提升相比之下基线 SkillOpt 框架在早期阶段呈现次优轨迹——这是由小批量划分与慢更新阻尼机制带来的结构性开销所致。更优的性能移除多智能体拒绝缓冲区与反思池化并未诱发过早收敛或破坏策略演进的稳定性。相反SkillOpt-Lite 在最终优化步骤时始终达到相等或更高的性能上限。如在 Spreadsheet-GPT-5.4-nano 与 DocVQA-GPT-5.4 中所观察到的自主文件系统探索循环使优化器模型能够直接隔离结构性代码缺陷产生绕过局部次优状态的精确细化。图 4SkillOpt红色圆点曲线与 SkillOpt-Lite蓝色方块曲线在各种任务与模型规模上、经过 10 个优化步骤的收敛曲线比较纵轴表示迄今为止达到的最佳验证性能。5 迈向 Harness 优化5.1 HarnessOpt 流程当智能体技能优化接近经验性能饱和上限时扩展我们框架的主要动机便应运而生。一旦声明式文本提示与启发式方法得到最优调优进一步的优化收益必须通过修改命令式控制流和工具执行脚手架来解锁即所谓的 harness 优化[6, 26–28]。由于 SkillOpt-Lite 的核心哲学基础是将所有智能体工件都视为标准文件系统实体这一最小流程可以原生扩展至修改运行时代码库脚本。我们将这一完全扩展的统一框架命名为HarnessOpt。通过解除工作空间目录内而非仅单个技能 markdown 文件的文件路径限制优化器模型利用完全相同的三支柱架构直接细化智能体的执行例程。流程图示见图 3c。第 0 轮引导与人在回路门控Round-0 Bootstrapping and Human-in-the-Loop Gate——在 harness 优化中初始基线框架指定为第 0 轮 harness的结构完整性至关重要。在没有稳定初始接口的情况下盲目变异原始控制逻辑可能引发即时语法崩溃或工具依赖损坏。为应对此风险我们在第 0 步实现结构化引导阶段框架首先在种子 harness 下执行所有训练实例的完整推演聚合原始系统执行轨迹与异常日志随后专门的诊断子智能体扫描这些日志目录以执行共识挖掘——其目标是隔离跨任务架构缺陷如缺失的工具原语或系统性 API 解析不匹配而非直接编写代码编辑子智能体将这些诊断见解编译为结构化配置提案。该提案经由五个关键视角评估——工具清单、提示上下文、循环策略、代码生成形态与状态记忆——最终形成关于记忆集成、工具增强和控制流形态的三个明确决策。它以交互式提示的形式呈现于 VS Code 环境中任何结构性更改在提交至核心代码库之前都须获得用户的显式批准。自动化持续进化与沙箱门控Automated Continuous Evolution and Sandboxed Gating——一旦第 0 轮 harness 获批HarnessOpt 便过渡到完全自动化、闭环的持续进化阶段不再需要用户干预。在第 t ≥ 1 轮中框架放宽文件权限允许底层模型自主部署标准 shell 工具来检查执行状态并对 harness 脚本施加有针对性的代码补丁。至关重要的是由于修改可执行控制流带有引入无限循环或回归的内在风险我们通过三个关键循环不变量强制执行严格的验证与安全护栏白名单约束修改严格限定于框架脚手架脚本之内任务特定技能与内部配置被视为只读拒绝列表以防漂移。冒烟与验证门控验证门控在隔离的子进程沙箱中严格进行。候选 harness 必须先通过编译检查与早期冒烟测试N 5方可运行完整验证集以测量实际性能提升。可逆进化与开关所有代码编辑均可通过 git reset 回滚完全可逆重大修改包装在环境变量特性开关之后在模块导入时初始化以确保清晰的二分定位与未来的消融分析。验证门控将最终准确率与历史最佳配置进行比对测量。我们建立了取决于样本数的统计死区 Δ以滤除随机方差提升幅度低于该死区的补丁仅当其在连续的次要软度量上展现出非平凡进展时才会被接受否则状态回滚以防代码库被无功能工件充斥膨胀。为将此能力无缝集成到开发者工作流中我们在环境中将 harness 优化流程暴露为生产级斜杠命令。开发者通过提供目标迭代轮数、训练推演的批量大小、目标基础模型和参考技能文件即可启动持续进化循环。典型调用格式如下/harnessopt-loop rounds2 batchsize40 targetgpt5.4-nano skillbest_skill_nano.md [custom_requirements]5.2 Harness 优化的实验评估在初步实验中我们观察到就技能优化基准所使用的六个数据集中的大多数而言现有基础设施已经够用或 harness 优化仅带来极小变化。因此我们将评估聚焦于 SpreadsheetBench 这一代表性且具有挑战性的案例以分析 HarnessOpt 的效能。我们在四种能力各异的语言模型上开展评估GPT5.4-nano、GPT5.4-mini、GPT5.4 与 GPT5.5。详细结果见表 3。模型行为变化分析——通过应用 HarnessOpt我们识别出不同模型层级特有的运行瓶颈并以有针对性的 harness 修改逐一修复GPT5.4-mini 与 GPT5.4对这两个模型而言基线性能主要受限于对数据文件观察不足与最终答案验证薄弱。HarnessOpt 通过扩大电子表格预览的可见范围、并引入专门步骤让智能体自省其最终输出成功减少了解析与格式化错误。GPT5.5 与 GPT5.4-nano相反这两个模型经常在工具执行失败时陷入推理链重复循环的困境。为打破此僵局HarnessOpt 自动拦截这些重复状态并施加回退策略retry reasoninglow使模型得以恢复并完成任务。联合优化的重要性——如表 3 所示仅优化 harness 代码库HarnessOpt w.o. skill即显著超越纯基于提示的优化SkillOpt-LiteGPT5.4-nano 从 0.6619 提升至 0.7651GPT5.5 提升至 0.8363。值得注意的是借助 harness 优化轻量级 GPT5.4-nano 达到 0.7758HarnessOpt w. skill超越了在基本 harness 下运行完整提示优化SkillOpt0.7620的大得多的 GPT5.5 模型。这种能力反转证明细化环境脚手架可以使较小模型在次优环境中超越前沿级模型。至关重要的是唯有同时优化两个组件HarnessOpt w. skill才能取得最佳整体结果——GPT5.4 达 0.8505GPT5.5 达 0.8577。这表明技能提供战略指导而 harness 确保可靠的执行环境真实世界性能依赖于二者的协同设计。表 3SpreadsheetBench 上不同 LLM 基线的优化结果方法GPT5.4-nanoGPT5.4-miniGPT5.4GPT5.5Init skill0.29890.28210.39860.3737SkillOpt0.51600.47500.61500.7620SkillOpt-Lite0.66190.73310.79360.7972HarnessOpt w.o. skill0.76510.81140.83630.8363HarnessOpt w. skill0.77580.82560.85050.85776 结论与未来工作6.1 结论在本文中我们通过零阶优化与统计学习理论的视角形式化了智能体技能训练。我们阐明了随着基础模型规模扩大复杂的多智能体池化与文本更新阻尼机制在很大程度上是冗余的。以“一切皆文件”哲学为指导我们提出 SkillOpt-Lite——一个将推演轨迹视为独立平面文件、并利用自主编程智能体进行有针对性的语义驱动调试的最小可行流程。经验上SkillOpt-Lite 加速了优化收敛并在多个基准上持续匹配或超越重度工程的基线。最后我们将此工作流封装为原生 IDE 扩展证明了以文件为中心的技能编辑可以自然泛化到完整的 harness 优化HarnessOpt。6.2 未来工作为迈向完全自主的智能体自我进化我们概述未来研究的四个实用方向面向前沿模型蒸馏的技能优化尽管将专有前沿模型蒸馏为开源权重等价物已是标准工业实践但活跃的反蒸馏防御与次优生成边界往往拖累数据质量。利用技能优化跨细粒度能力细化教师智能体为生成高质量蒸馏语料提供了结构化框架。然而由于该范式将数据集生成与下游架构的主动优化相耦合设计快速、计算高效的数据选择评估协议仍是关键挑战。用于自动化优化的 Harness 模板数据库本工作探索了执行 harness 的基本程序化修改而扩展 harness 优化需要鲁棒的参考框架。开发精选的最小 harness 模板库至关重要可为编程智能体提供有效的结构先验。此外异构 harness 需要自适应沙箱以确保安全交互。尽管当前最先进的智能体如 Claude Code [14]已为本地软件工程环境提供有效的安全协议但将这些遏制机制扩展至互联网增强或多模态基础的执行域仍未得到解决。作为持续学习的 Harness 进化鉴于持续微调基础权重的高昂计算开销直接操作非参数层——具体而言将执行 harness 与领域技能视为“进化的参数”——为终身学习[29]提供了有前景的替代方案。该框架下的主要挑战在于长时间跨度内独立进化的 harness 谱系之间的结构对齐与融合。本研究的一个直接扩展是开发个性化智能体使 harness 架构持续适配长期人类偏好与习惯性的开发者工作流。将优化扩展到基础模型训练虽然基础模型在当前框架中保持冻结但该优化流程可自然延伸至模型训练阶段本身。在我们的哲学中由于数据集合作为标准文件被管理基础模型即代表这些文件的内在编译。凭借完全相同的三支柱架构框架可建立综合基准以压力测试模型边界自动编辑网页抓取控制器或数据蒸馏提示以采集定向样本并利用这些数据训练出迭代改进的模型。这将把优化边界从脚本转移至模型参数实现完整的智能体自我进化。有趣的是我们已率先实践了此方法的半自动化版本——例如在内部多模态生成与理解模型的预训练中动态缩放图文对以及在 LLaVA-OneVision-2 [30] 的开发过程中策划特定视频训练数据尽管这些结构性实现细节未在主论文中突出呈现。在无人工干预的情况下完全自动化此“数据-模型-harness”协同设计循环仍是关键的下一步。
这是一篇 2026 年 7 月、来自 LMMs-Lab / NTU MMLab / 微软的 16 页技术报告。核心主张一句话概括智能体技能优化不需要复杂流程——把轨迹当文件、让编程智能体直接调试一行斜杠命令即可完成自我进化。下面从研究逻辑、理论分析、方法设计、实验到扩展应用分五部分为您梳理并配三张图帮助理解。一、研究背景与要解决的问题论文的出发点是智能体工程的一个现实智能体的真实能力由三样东西共同决定——基础 LLM、操作脚手架harness 和领域技能文本提示/启发式。推理时基础模型是冻结的所以工程重心落在反复打磨技能文档上而文本的细微差异会引发任务性能的非线性波动这正是自动化技能优化要管理的问题。现有方法从开环反思Reflexion、Voyager一路演进到 SkillOpt 这类复杂流程小批量树合并、文本学习率调度、拒绝编辑缓冲区等架构日益繁重。论文尖锐地追问什么才是最小可行流程使得每个组件都有理论或经验上的必要性下图概括了全文的研究逻辑链二、理论分析把技能优化放进零阶优化与 PAC 学习的框架第 2 节论文首先做了一件“正名”的工作把智能体技能优化形式化为期望奖励最大化 f(s) E[R(H(M, z, s))]其中技能 s 是离散文本、LLM 与环境组合不可微因此智能体-环境交互天然是一个零阶ZO优化预言机。作者系统梳理了文献中的复杂机制与经典 ZO 概念的对应关系论文表 1单轨迹反思Reflexion、Voyager→ 单点梯度估计对比诊断SkillCat→ 中心差分故障隔离编辑SkillAdapter→ 坐标下降编辑预算SkillOpt、SkillForge→ 信赖域半径拒绝编辑缓冲区SkillOpt→ 控制变量方差缩减。在此基础上论文给出了四点核心洞见概念分歧洞见 1经典 ZO 只能盲目数值扰动一个黑盒函数而智能体推文产生的是可读、语义丰富的执行轨迹——所以技能优化本质是“以语言为媒介的程序编译”技能库是程序仓库LLM 既是编译器也是运行时轨迹就是可解释的调试信息。稳定性与过拟合洞见 2由 PAC 学习泛化误差 ≤ 经验误差 O(β_exp·√(ln(1/δ)/N))其中 β_exp 是算法的期望稳定性系数。对单次试验异常过拟合会放大 β_exp、导致泛化崩溃因此优化器必须是“压缩算子”挖掘跨轨迹共识而非做复杂的树归约。独立验证洞见 3不相交验证集能把 β_exp 从模型选择界中消去但前提是验证集与训练严格统计独立。论文点名批评了 Reflexion完全无验证以及 SkillCat/SkillAdapter/Trace2Skill拿训练失败实例做门控对这一原则的违反。三、方法设计SkillOpt-Lite第 3 节方法源于一个关键先导实验洞见 4即“技能优化的苦涩教训”把轨迹全部存成平面文件让 GitHub Copilot 只用原始文件系统工具做单批修改——结果在 LiveMath 和 DocVQA 上就超过了 SkillOpt 跑 4 个 epoch 的成绩但在 Spreadsheet 上性能退化证明验证门控不可丢弃。结论是随着基础模型变强复杂的定制优化拓扑反而适得其反原始文件探索才是王道。由此得到 SkillOpt-Lite 的四步流程它只保留三个组件砍掉了小批量反思池化、学习率调度、拒绝缓冲区和 epoch 级慢更新添加到对话下载到本地工程上整个循环被封装为一个 VS Code Copilot 扩展开发者输入/skillopt-loop rounds10 batchsize40 targetgpt5.4-nano即可触发——这就是标题里“一行 Vibe”的含义。四、实验验证第 4 节实验在 6 个基准SearchQA、Spreadsheet、ALFWorld、LiveMath、DocVQA、OfficeQA上、跨 5 个模型规模GPT-4o 到 GPT-5.5展开优化器统一为 GitHub CopilotSkillOpt-Lite 严格在 10 个批次内评估。核心结论有四推理密集型任务大幅提升LiveMath 上 GPT-4o 从 25.9 提到 58.8、GPT-5.5 从 36.6 提到 73.637.0Spreadsheet 上 GPT-5.4 达 79.4基线 SkillOpt 仅 61.5该类任务平均 12.6 分。机制解释是小批量反思池化会把多个文本更新平均掉模糊离散语言空间中的梯度信号去掉它优化器能发出精准的文件级补丁。语义浅层任务持平但更省SearchQA、ALFWorld、OfficeQA 上两种框架差异仅 0.1~1.5 分说明这些域很快饱和复杂基础设施基本冗余。收敛更快复杂域 2~3 步即见效无早期探索平台期基线受小批量划分和慢更新阻尼拖累。小模型逆袭GPT-5.4-nano 在 LiveMath 上 55.7超过跑完整 SkillOpt 的 GPT-5.454.0ALFWorld 达 81.3%。两张图直观呈现最关键的数据左为 LiveMath 技能优化对比右为 SpreadsheetBench 上从技能优化到 harness 联合优化的进阶五、从技能到 harnessHarnessOpt 扩展第 5 节论文的最后一步扩展颇具野心既然“一切智能体组件皆文件”那么把优化目标从单个技能文件放宽到整个 harness 代码库同一套三支柱循环即可自动优化执行脚手架作者称之为HarnessOpt。其设计要点第 0 轮人工门控先跑全量训练推演由诊断子智能体扫描日志、提炼跨任务架构缺陷如缺失工具原语、API 解析不匹配形成结构化配置提案在 VS Code 中经人审批后才动核心代码避免初始 harness 被改崩。之后全自动进化 安全护栏白名单限定可改范围、子进程沙箱冒烟测试N5后才跑完整验证、所有改动 git 可逆并包在特性开关后、用统计死区 Δ 过滤随机波动。SpreadsheetBench 结果仅优化 harness 就已大幅超过纯提示优化nano 0.6619→0.7651轻量级 GPT5.4-nano 联合优化后达 0.7758反超在标准 harness 下跑完整 SkillOpt 的 GPT5.50.7620技能与 harness 联合优化取得全局最优GPT5.4 0.8505、GPT5.5 0.8577。不同模型的瓶颈也被精准修复mini/GPT-5.4 是“观察不足缺最终验证”GPT-5.5/nano 是“推理链在工具失败时死循环”后者通过自动回退策略retry reasoninglow破解。复杂的多智能体池化与更新阻尼机制随基础模型变强大体上是冗余的以“一切皆文件”为指导、把轨迹当平面文件交给编程智能体做语义化调试是技能优化的最小可行形态且能自然泛化到 harness 优化。未来工作列出四个方向面向前沿模型蒸馏的技能优化、harness 模板数据库、把 harness 进化当作持续学习、以及把优化边界从脚本推进到基础模型训练本身数据-模型-harness 全自动协同设计。这篇论文本质上是一次“做减法”的研究——用系统观文件抽象 编程智能体替代算法复杂度并用 ZO 优化和 PAC 学习为“为什么可以减”提供了理论辩护其最有传播力的卖点是把整套流程压缩成 IDE 里的一条斜杠命令以及“小模型 优化过的 harness 胜过前沿模型 标准环境”这一能力反转现象。这里是自己的论文阅读记录感兴趣的话可以参考一下如果需要阅读原文的话可以看这里如下所示项目地址在这里如下所示摘要尽管面向自主智能体的技能优化已受到广泛关注但现有方法在很大程度上依赖于日益复杂的流程。这留下了一个根本性的问题什么才是技能优化的最小可行流程使得每个组件都有理论或经验上的必要性在本篇短文中我们首先通过零阶ZO优化的视角对技能优化进行形式化指出现有文献中的经典对应物如中心差分、信赖域和方差缩减。然而我们识别出一个关键的分歧经典 ZO 依赖于盲目的数值扰动而智能体优化则充当以语言为媒介的程序编译其中轨迹充当可解释的调试反馈。基于 Claude Code 的设计哲学和概率近似正确PAC学习我们识别出支配收敛性与泛化性能的三条基础原则1将轨迹视为文件并用文件系统工具探索它们2在轨迹样本中挖掘共识属性3强制执行严格的独立验证门控。在这些原则的指导下我们移除了现有框架的架构冗余提出 SkillOpt-Lite保留三个核心组件轨迹探索、共识挖掘和验证门控。这一简化加速了收敛并超越了复杂的 SkillOpt 基线在 GPT-5.5 上LiveMath 性能提升 8.8 分在 GPT-5.4-nano 上提升 25.4 分使 nano 模型超过运行完整 SkillOpt 流程的标准 GPT-5.455.7 对 54.0。最后我们将框架集成到生产级编程智能体如 VSCode Copilot中使开发者能够通过一行 Vibe 进化智能体技能。值得注意的是由于我们的框架将所有智能体组件都视为标准可编辑代码这一最小流程可自然地泛化到完整的执行框架harness优化——我们将其命名为 HarnessOpt。在 SpreadsheetBench 上HarnessOpt 使轻量级 GPT5.4-nano 达到 0.7758 的准确率超越了在标准 harness 下运行完整 SkillOpt 流程的大得多的 GPT5.5 模型0.7620。1 引言AI 智能体已从研究原型转变为标准的生产工具[1–3]。实际部署揭示智能体的真实世界能力不仅由其基础大语言模型LLM决定还取决于基础模型、其操作脚手架harness与其领域启发式方法技能之间的相互作用。由于基础模型在推理期间保持冻结智能体工程往往归结为细化这些技能文档——在这一过程中细微的文本差异通常会驱动下游任务性能的非线性差异[4–8]。为了管理这种非线性敏感性自动化技能优化已从开环自我反思[9, 10]演变为复杂的算法流程[8, 11–13]。在现有文献中SkillOpt [4] 通过连续优化类比来形式化文本修订实现了小批量树合并、文本学习率调度和拒绝编辑缓冲区。然而尽管取得了经验上的收益现有框架表现出日益倾向于架构复杂性。它们从经典优化中引入了错综复杂的机制却没有解决一个根本问题什么才是技能优化的最小可行流程使得每个组件都有理论或经验上的必要性在本文中我们通过桥接零阶优化、统计学习理论和系统工程来回答这一问题。我们首先将现有的反思范式映射到零阶ZO优化。如表 1 所详述单轨迹批判[9, 10]对应于单点梯度估计器 ∇f̂(s)对比诊断[13]反映中心差分近似故障隔离编辑[11]镜像沿基向量 e_i 的坐标下降而编辑预算[4, 12]和拒绝缓冲区则实例化了信赖域半径 B 和控制变量 c。然而我们识别出一个关键的概念分歧经典 ZO 依赖于对不可观测状态的盲目数值扰动而智能体推演rollout产生的是显式的、语义丰富的执行轨迹。技能优化从根本上充当以语言为媒介的程序编译其中轨迹充当可解释的调试反馈。为了形式化这种编译器范式我们建立三条基础设计原则。前两条源于 PAC 学习理论1跨轨迹共识挖掘对单次试验异常的过拟合会放大稳定性系数 β_exp导致泛化崩溃。优化器不应执行复杂的树归约而必须充当压缩算子捕捉跨任务不变量。2独立验证门控PAC 界表明保留验证集可将 β_exp 从泛化误差中移除。为防止评估偏差门控必须依赖独立样本而非子采样的训练失败实例。遵循 Unix 和 Claude Code [14] 的“一切皆文件”哲学我们设计了一项先导实验将每条执行轨迹隔离到独立的平面文件中并部署一个自主编程智能体使用原始文件系统工具对其进行细化。经验上我们发现这种单批文件修改可能在多个基准上超越经过四个完整 epoch 优化的完整 SkillOpt 流程这引导我们得出第三条经验原则3技能优化的苦涩教训随着基础 LLM 规模扩大为抑制更新速度而设计的定制拓扑变得适得其反。赋予智能体原始 shell 工具以直接检查原始日志文件始终优于重度工程的基线。综合这些原则我们提出 SkillOpt-Lite——一个移除了小批量反思池化、慢更新阻尼和拒绝缓冲区的最小可行流程。相反SkillOpt-Lite 通过一个完全由轨迹探索、共识挖掘和验证门控组成的自主调试循环直接在磁盘上运行。如图 1 所示这一精简设计在所有六个基准上一致改进完全配置的 SkillOpt 基线。在 Spreadsheet 等逻辑密集型任务上它带来平均 12.6 分的提升69.7 对 57.1。此外如图 1b 所追踪移除反思池化使轻量级模型能够规避早期探索平台期例如在 ALFWorld 上SkillOpt-Lite 将 GPT-5.4-nano 提升至 81.3%比 SkillOpt 高 9.5同时在旗舰基础模型上展现了第一步内即快速收敛的能力如 Spreadsheet-GPT-5.5。最后我们将流程封装为一个开源 VS Code Copilot 扩展允许开发者通过单个斜杠命令触发技能优化。至关重要的是由于我们的框架将所有智能体组件都视为标准可编辑代码在 IDE 环境中解除文件路径限制使这一最小循环能够自然地泛化到完整的 harness 优化——我们将其命名为 HarnessOpt。在 SpreadsheetBench 上HarnessOpt 一致地解决模型特有的瓶颈如推理循环。值得注意的是该框架使轻量级 GPT5.4-nano 达到 0.7758 的准确率超越了在标准 harness 下运行完整 SkillOpt 流程的大得多的 GPT5.5 模型0.7620。总之我们的主要贡献有三方面理论形式化我们将智能体技能训练映射到零阶优化识别其独特的程序编译器本质并导出支配稳定性与验证的核心原则。最小可行流程以文件为中心的哲学为指导我们提出 SkillOpt-Lite经验性地证明用原始文件探索替换复杂优化模块可在多个基线上带来更快的收敛与更优的性能。Harness 扩展与 IDE 封装我们展示该流程可直接扩展到自动化 harness 优化HarnessOpt使轻量级模型通过环境协同设计超越前沿级模型。我们将整个工作流封装为一个 VS Code 扩展实现一行式智能体进化。2 技能优化分析2.1 技能训练与零阶优化2.1.1 算法联系我们将技能优化形式化为期望奖励函数的最大化f(s) E_{z∼D_text}[R(H(M, z, s))]其中 s ∈ S 表示基于文本的技能工件M 是冻结的骨干 LLMz 表示从分布 D_text 中抽取的任务实例H 表示执行 harness。由于 S 的离散性质以及 H 与 M 组合的不可微性梯度 ∇_s f 在解析上难以处理因此智能体-环境交互被建模为一个零阶ZO预言机Oracle。这一公式揭示尽管语义域缺乏连续、光滑的流形现有启发式方法仍利用了与经典 ZO 工具箱[15]相类的组件。形式上我们在连续 ZO 操作与离散文本空间编辑之间建立结构类比文本工件 s 在扰动位置 s μu或沿标准坐标基 e_i处被评估其中 μ 0 表示步长类比物u 是随机搜索方向。在这一统一框架下环境反馈如执行轨迹、错误日志和验证分数充当标量预言机评估 f(s)LLM 驱动的自我反思、补丁生成和技能编辑则充当连续 ZO 算子的离散空间结构类比物如随机梯度估计器 ∇f̂(s)、坐标下降、信赖域约束 B 和方差缩减控制变量 c。因此从单轨迹启发式[9, 10]到结构化多点方差缩减方案[4, 8, 12]的著名智能体工作流均可通过算法零阶优化的视角加以系统分析其映射关系见表 1。表 1零阶优化算子与 LLM/智能体反思范式之间的映射添加到对话ZO 概念公式/算子智能体领域度量文献实现零阶预言机反馈f(sμu)沙箱环境训练性能的标量度量。单点估计∇f̂(s) ∝ f(sμu)u单轨迹反思• Reflexion [9]从单条轨迹直接推导反思。• Voyager [10]单错误信号触发本地程序覆写。多点/小批量(1/B_m) Σ_{i1}^{B_m} [f(sμu_i) − f(s)]u_i批量推演共识提取• Trace2Skill [8]使用 Map-Reduce 进行补丁合并的 ZO-SGD。• SkillOpt [4]迭代反思小批量规模 B_m 8。• SkillForge [12]第二阶段批量工单聚合用于轨迹去噪。中心差分[f(sμu) − f(s−μu)] / (2μ)成败对比分析• SkillCat [13]在动作分歧点 w_i 处对轨迹进行对比分析的自定义 CCE 算子。ZO 坐标下降[f(sμe_i) − f(s)]/μ · e_i故障隔离原子修改• SkillAdapter [11]以故障步骤 t* 为轴、候选技能 s_j 为基向量的坐标下降。信赖域半径B(s_k, Δ_k)结构性编辑约束• SkillOpt [4]编辑预算衰减L_t 4→2。• SkillForge [12]执行最小修改原则。• SoftSkill [16]将软前缀长度限制在 m 32 个 token。控制变量ĝ_t − c_t E[c]历史记忆拒绝• SkillOpt [4]将被拒绝的编辑传入缓冲区作为负控制变量。2.1.2 概念分歧尽管将智能体技能训练映射到 ZO 优化引入了既定的方差缩减方法两种范式之间仍存在一个关键的概念分歧。在经典 ZO 优化中决策变量 s 定义于数值空间内预言机充当严格黑盒仅返回标量奖励 f(s)而详细的运行时轨迹或中间状态转换保持潜在且不可观测。相反技能优化的区别性特征在于每次 LLM 推演都产生一条显式的、结构化的、语义丰富的轨迹其中包含历史试验日志、中间规划原理和运行时错误消息。这些轨迹封装了成功或失败的精确因果链。从这个角度看技能优化从黑盒函数查询转变为一个随机编码问题——技能库充当以自然语言编写的高级软件程序仓库LLM 不仅充当评估器还充当底层编译器与执行运行时而生成的推演轨迹则充当中间程序执行跟踪。传统 ZO 优化被迫通过数值变化盲目近似梯度因为它无法检视底层函数。相比之下技能优化利用可读的执行轨迹进行有针对性的、语义驱动的调试。在 3.2 节中我们介绍 SkillOpt-Lite——一个明确设计用于利用这种程序编译器范式、将语义执行轨迹转换为可操作代码补丁的框架。洞见 1概念分歧经典 ZO 优化依赖于盲目的数值扰动而智能体技能优化充当以语言为媒介的程序编译其中推演轨迹充当可解释的调试反馈。2.2 泛化误差PAC 学习视角尽管被公式化为以语言为媒介的编码过程技能优化仍是由 PAC 学习基础原则支配的统计学习问题。在 PAC 框架下习得的技能库 S 在真实任务分布 D 上的泛化误差 ε(S) 以其经验误差 ε̂_D(S) 加上一个复杂度惩罚为界。该泛化差距可以不依赖静态假设空间的一致容量度量而是通过期望平均稳定性Expected On-Average Stability[17] 的视角被紧密界定ε(S) ≤ ε̂_D(S) O( β_exp · √(ln(1/δ)/N) )其中 N 为训练实例数量β_exp 表示技能细化算法的期望稳定性系数。令 D {z_1, ..., z_N} 为训练数据集D\i 为移除第 i 个任务实例 z_i 后形成的相邻数据集。若优化算法 A 在真实数据分布 D 上的性能方差期望满足E_{D, z∼D} |R(H(M, z, A(D))) − R(H(M, z, A(D\i)))| ≤ β_exp则称算法 A 具有系数为 β_exp 的期望平均稳定性。在语义域中β_exp 衡量算法对偶发性特质episodic idiosyncrasies的统计抵抗力。如果细化过程过拟合于特定样本异常——例如硬编码逐案例分支动作或模仿单次失败试验特有的局部环境变量——稳定性系数 β_exp 将增大导致泛化崩溃。为最小化 β_exp优化算法必须丢弃单样本怪异之处并在异构推演中提取共同属性。这种稳定化压缩迫使进化的技能捕捉不变的结构逻辑而非记忆单次试验轨迹。实际框架通过各种设计强制跨任务共识Trace2Skill [8] 与 SkillForge [12] 将推演聚合为小批量或批量工单池以提取不变的经验教训而 SkillOpt [4] 则通过并行化 LLM 合并执行分层树归约。洞见 2稳定性与过拟合从算法稳定性的角度看一个鲁棒的技能优化算法充当 β_exp 稳定算子确保基于文本的技能突变对单次推演异常保持不变从而捕捉跨任务结构不变量。为在自我进化期间选择最优模型需采用基于验证的模型选择。假设评估度量以 M 为界则经验选择的技能库的泛化误差符合 m 个验证样本上的标准模型选择界[18]ε(S_val) ≤ ε̂_val(S_val) O( √(ln(1/δ)/m) )通过对比这两个泛化界我们揭示了验证协议所解锁的清晰统计红利。在标准训练界中泛化差距锚定于算法的单样本敏感性 β_exp当智能体在表达密集的自然语言空间中搜索时拟合单个样本特征的倾向会惩罚泛化能力。至关重要的是一旦引入不相交的验证集稳定性系数 β_exp 便从模型选择上界中被完全移除。然而这种解耦的统计有效性取决于一条基本规则验证集必须与训练集严格不相交且独立以产生泛化差距的无偏估计。对近期文献的评估揭示了对该验证协议的普遍违反像 Reflexion [9] 这样的工作在开环中完全绕过动态验证而像 SkillCat [13]、SkillAdapter [11] 和 Trace2Skill [8] 这样的框架则通过在源训练失败实例的直接克隆或子采样的训练子集上执行门控损害了验证界。洞见 3独立验证集为保证泛化验证集必须满足双重使命与训练数据严格统计独立以防评估偏差以及足够的样本量 m 以抑制方差界 O(√(ln(1/δ)/m))。3 SkillOpt-Lite3.1 一个激励性示例用编程智能体编写技能如 2.1.2 节所讨论技能优化可被建模为程序编译器范式技能文档充当软件程序LLM 充当底层编译器。为评估这一范式我们开展了一项先导研究模仿 AI 工程师利用商业编程助手细化智能体技能的工作流。具体而言我们收集了 GPT-5.4-nano 优化循环初始批次生成的原始推演轨迹并将其存储为本地文本文件随后部署 GitHub Copilot [19]令其仅通过原始文件系统工具自主探索该目录并给出明确指令诊断跨轨迹的系统性失败模式并将最小修改补丁直接应用于基线技能文件。至关重要的是该助手绕过了所有预定义的数学拓扑——例如 SkillOpt 中使用的小批量切片或分层树归约算子——并且在不执行任何中间验证循环的情况下直接提交这些编辑。随后我们在 Spreadsheet [20]、ALFWorld [21]、LiveMath [22] 和 DocVQA [23] 的下游测试集上评估细化后的技能。图 2单批编程智能体探索与多 epoch 技能优化的经验评估。图中以 SpreadSheet、ALFWorld、LiveMath、DocVQA 四个基准为横轴以各基准的相对准确率基准值 100为纵轴对比了三组柱状结果初始技能Init Skill、SkillOpt4 个 epoch与 Copilot1 个批次。经验结果如图 2 所示揭示了一个有启发性的现象没有迭代循环编程助手的单批文件系统探索即取得了可观的性能提升。值得注意的是在 LiveMath 和 DocVQA 上这种单批未验证的智能体配置甚至超越了基线 SkillOpt 框架经过四个完整 epoch 迭代优化后的表现。这一趋势凸显了语言模型在直接操作原始执行文件时的能力。相反在 Spreadsheet 基准上优化后的技能退化至低于其初始基线的水平这证明了形式化优化流程中闭环验证机制的必要性。洞见 4技能优化的苦涩教训随着基础模型规模扩大为技能更新设计的复杂算法流程可以被“将系统工件视为平面文件并赋予模型原始文件系统导航工具”这一做法持续匹配或超越。3.2 SkillOpt-Lite 流程我们提出 SkillOpt-Lite——一个旨在实现技能优化最小可行流程的精简框架。如图 3 的结构比较所示我们移除了复杂的批级合并、基于文本的学习率调度和历史拒绝编辑缓冲区此外我们弃用了 epoch 级慢更新机制该机制此前需要跨多个 epoch 匹配和比较轨迹以进行元技能反思。相反SkillOpt-Lite 通过一个自主调试循环直接在本地磁盘上运行推演批次被解耦使每条轨迹单独存储为一个文件从而让系统能够使用原生文件系统工具导航、读取并细化技能库。SkillOpt-Lite 的工作流结构如下1. 轨迹暂存Trajectory Staging在冻结智能体 harness 的每批次推演之后原始轨迹——涵盖规划原理、环境状态和任务分数——被直接转储到磁盘成为文本文件。如图 3b 所示每条轨迹存储为独立的日志文件而非聚合进结构化小批量。2. 轨迹探索Trajectory Exploration系统不将整个原始日志语料加载进模型上下文窗口而是利用显式文件系统工具导航工作空间遵循洞见 4 概述的设计原则。在受限的 token 预算下优化器模型执行自主 shell 命令来列出目录、对统一的任务失败进行聚类并选取高杠杆文件进行详细检视。3. 共识挖掘与最小编辑Consensus Mining and Minimal Edit配备文件读取能力后优化器直接从目录中读取这些轨迹文件以发现跨任务不变量与共享失败模式实现洞见 2 的目标。一旦识别出这些模式并为满足有界文本更新的信赖域约束系统遵循最小更新原则生成紧凑的代码 diff 或补丁来解决诊断出的错误。4. 验证门控Validation Gating所提出的补丁被应用于构建候选技能库 S̃并立即在独立验证集上评估以获得无偏的经验分数实现洞见 3 的验证机制。若候选技能优于当前基线分数则被接受为活跃技能 S_{t1}若其还超过历史最佳分数则永久覆写磁盘上的生产技能文件指定为 best_skill.md。被拒绝的更新直接转入历史日志归档。为展示实际效用我们将此流程封装为生产就绪的 VS Code 扩展。开发者可通过单行斜杠命令在开发环境中直接触发完整优化循环/skillopt-loop rounds10 batchsize40 targetgpt5.4-nano [custom_requirements]此集成消除了多智能体平台典型的配置开销提供了一个直接嵌入原生 IDE 环境的交互式、轻量级调试工具。图 3优化流程的结构比较。(a) 原始 SkillOpt 流程[4]训练数据经冻结智能体 harness 推演得到轨迹轨迹按小批量切分交由各小批量优化器模型生成 L 个原子编辑经批级合并duplicate preserves / edit / replace为候选技能 S_{t1}候选技能在独立验证数据上门控当前分数 0.463通过则接受、否则拒绝被拒编辑进入“拒绝编辑历史”缓冲区编辑幅度受学习率调度L_t 衰减约束。此外还有 epoch 级“慢更新”机制比较同一样本在不同 epoch 的轨迹S_t^✓ 与 S_t^✗进行元技能反思并将成功/失败历史记录于 markdown 文件。(b) 提出的 SkillOpt-Lite 流程推演批次中每条轨迹独立存为一个文件优化器模型通过列表与读取工具如用 Bash 列目录探索目录在给定 token 预算内选取文件与行聚类任务类型、寻找共性失败模式诊断生成期望应用于技能文件的编辑候选技能 S_{t1} 在独立验证数据上门控优于当前技能 S_t 则接受否则拒绝编辑历史记入日志。与基线 SkillOpt 相比该精简设计消除了小批量反思池化、慢更新阻尼和历史拒绝缓冲区。(c) 提出的 HarnessOpt 流程由于 SkillOpt-Lite 将所有工件抽象为平面文件操作 harness 自然简化为可编辑代码文件优化器模型使用编程智能体的完整工具集读取 harness提出程序化修改、常见失败模式与改进建议候选 harness H_{t1} 与当前技能 S_{t1} 同样经独立验证门控接受/拒绝并记录编辑历史。由此最小技能流程原生泛化为全规模的 harness 优化框架。4 实验4.1 性能我们的实验配置遵循 SkillOpt 建立的评估协议使用 SearchQA [24]、Spreadsheet [20]、ALFWorld [21]、LiveMath [22]、DocVQA [23] 和 OfficeQA [25]。SkillOpt 与 SkillOpt-Lite 使用完全相同的优化器模型其中以 GitHub Copilot 作为基线编程智能体。在原始数据集划分下LiveMath 与 OfficeQA 仅含 10 到 20 个验证实例导致验证方差偏高为缓解这种经验不稳定性我们将这两个基准的训练-验证-测试划分从 2:1:7 调整为 2:2:6。对于 OfficeQA由于缺少可用的搜索工具 API我们实现了离线评估变体。推理任务上的显著提升LiveMath 与 Spreadsheet——在需要复杂推理和确定性代码执行的任务上SkillOpt-Lite 展现出可观的性能提升。例如在 LiveMath 上相对基线GPT-4o 的绝对准确率从 31.2 升至 58.827.6 分GPT-5.5 从 36.6 升至 73.637.0 分。在 Spreadsheet 上精简流程同样以明显优势超越完整 SkillOpt 框架如 GPT-5.4 上 79.4 对 61.5 分。机制上这种分歧源于基线框架依赖小批量反思池化该操作会平均多个不同的文本更新从而模糊离散语言空间中的隐式梯度信号。通过消除这种平均伪影SkillOpt-Lite 使优化器模型能够发出局部化、离散的文件系统编辑直接解决技能代码库中的逻辑与算法死锁。语义浓重域上的一致界限SearchQA、ALFWorld 与 OfficeQA——相反对于由开放式文本检索或物理环境基础主导的任务两种框架之间的性能差异微乎其微。在 SearchQA、ALFWorld 和 OfficeQA 上SkillOpt-Lite 要么匹配、要么略微超越基线框架波动通常在 0.1 至 1.5 分之间。这种行为源于这些基准的本质它们需要广泛的语义覆盖而非深度、多步的算法执行。由于底层模型在这些浅层文本-动作域中迅速饱和可用的优化余量两种变体都收敛于统计上相似的局部最优。然而至关重要的是我们的精简版本以显著更低的计算开销达到了这一上界——这表明对于浅层、语义浓重的域复杂的优化基础设施在很大程度上是冗余的。表 2不同模型规模下的主要实验结果。 下标表示相对初始基线Init skill的性能增量粗体此处以 N 标注突出每个模型块内的最佳表现SkillOpt 执行 max(4 个 epoch, 10 个批次)而 SkillOpt-Lite 严格在 10 个批次内评估。模型技能来源SearchQASpreadsheetALFWorldLiveMathOfficeQA离线DocVQAGPT-4oInit skill64.644.182.325.921.078.3GPT-4oSkillOpt70.1 (5.5)48.7 (4.6)95.3 (13.0)31.2 (5.3)30.2 (9.2)85.2 (6.9)GPT-4oSkillOpt-Lite71.5 (6.9)49.8 (5.7)97.8 (15.5)58.8 (32.9)32.4 (11.4)86.4 (8.1)GPT-5.4-nanoInit skill50.929.934.326.410.863.4GPT-5.4-nanoSkillOpt68.8 (17.9)51.6 (21.7)71.8 (37.5)30.3 (3.9)18.4 (7.6)80.4 (17.0)GPT-5.4-nanoSkillOpt-Lite66.9 (16.0)66.2 (36.3)81.3 (47.0)55.7 (29.3)15.5 (4.7)82.1 (18.7)GPT-5.4-miniInit skill69.628.282.334.923.085.3GPT-5.4-miniSkillOpt72.3 (2.7)47.5 (19.3)100.0 (17.7)41.2 (6.3)32.1 (9.1)90.9 (5.6)GPT-5.4-miniSkillOpt-Lite73.1 (3.5)73.3 (45.1)100.0 (17.7)63.2 (28.3)30.4 (7.4)92.5 (7.2)GPT-5.4Init skill68.339.988.146.229.787.7GPT-5.4SkillOpt77.5 (9.2)61.5 (21.6)100.0 (11.9)54.0 (7.8)40.2 (10.5)90.3 (2.6)GPT-5.4SkillOpt-Lite76.3 (8.0)79.4 (39.5)100.0 (11.9)66.0 (19.8)45.3 (15.6)91.2 (3.5)GPT-5.5Init skill72.437.490.136.633.289.0GPT-5.5SkillOpt78.8 (6.4)76.2 (38.8)100.0 (9.9)64.8 (28.2)72.2 (39.0)91.2 (2.2)GPT-5.5SkillOpt-Lite79.0 (6.6)79.7 (42.3)100.0 (9.9)73.6 (37.0)76.2 (43.0)94.2 (5.2)4.2 收敛速度为评估所提最小流程的优化效率我们分析了 SkillOpt 与 SkillOpt-Lite 的收敛轨迹。图 4 追踪了在代表性模型规模与基准下、10 个顺序优化区间内的历史最佳验证分数Best val_hard so far。经验轨迹凸显了我们精简框架的两项明显运行优势加速的优化速度与完整 SkillOpt 框架相比SkillOpt-Lite 展现出更陡峭的初始优化轨迹。例如在 LiveMath-GPT-5.5 与 LiveMath-GPT-5.4-nano 等复杂域中SkillOpt-Lite 在最初 2 至 3 步内即获得可观性能提升相比之下基线 SkillOpt 框架在早期阶段呈现次优轨迹——这是由小批量划分与慢更新阻尼机制带来的结构性开销所致。更优的性能移除多智能体拒绝缓冲区与反思池化并未诱发过早收敛或破坏策略演进的稳定性。相反SkillOpt-Lite 在最终优化步骤时始终达到相等或更高的性能上限。如在 Spreadsheet-GPT-5.4-nano 与 DocVQA-GPT-5.4 中所观察到的自主文件系统探索循环使优化器模型能够直接隔离结构性代码缺陷产生绕过局部次优状态的精确细化。图 4SkillOpt红色圆点曲线与 SkillOpt-Lite蓝色方块曲线在各种任务与模型规模上、经过 10 个优化步骤的收敛曲线比较纵轴表示迄今为止达到的最佳验证性能。5 迈向 Harness 优化5.1 HarnessOpt 流程当智能体技能优化接近经验性能饱和上限时扩展我们框架的主要动机便应运而生。一旦声明式文本提示与启发式方法得到最优调优进一步的优化收益必须通过修改命令式控制流和工具执行脚手架来解锁即所谓的 harness 优化[6, 26–28]。由于 SkillOpt-Lite 的核心哲学基础是将所有智能体工件都视为标准文件系统实体这一最小流程可以原生扩展至修改运行时代码库脚本。我们将这一完全扩展的统一框架命名为HarnessOpt。通过解除工作空间目录内而非仅单个技能 markdown 文件的文件路径限制优化器模型利用完全相同的三支柱架构直接细化智能体的执行例程。流程图示见图 3c。第 0 轮引导与人在回路门控Round-0 Bootstrapping and Human-in-the-Loop Gate——在 harness 优化中初始基线框架指定为第 0 轮 harness的结构完整性至关重要。在没有稳定初始接口的情况下盲目变异原始控制逻辑可能引发即时语法崩溃或工具依赖损坏。为应对此风险我们在第 0 步实现结构化引导阶段框架首先在种子 harness 下执行所有训练实例的完整推演聚合原始系统执行轨迹与异常日志随后专门的诊断子智能体扫描这些日志目录以执行共识挖掘——其目标是隔离跨任务架构缺陷如缺失的工具原语或系统性 API 解析不匹配而非直接编写代码编辑子智能体将这些诊断见解编译为结构化配置提案。该提案经由五个关键视角评估——工具清单、提示上下文、循环策略、代码生成形态与状态记忆——最终形成关于记忆集成、工具增强和控制流形态的三个明确决策。它以交互式提示的形式呈现于 VS Code 环境中任何结构性更改在提交至核心代码库之前都须获得用户的显式批准。自动化持续进化与沙箱门控Automated Continuous Evolution and Sandboxed Gating——一旦第 0 轮 harness 获批HarnessOpt 便过渡到完全自动化、闭环的持续进化阶段不再需要用户干预。在第 t ≥ 1 轮中框架放宽文件权限允许底层模型自主部署标准 shell 工具来检查执行状态并对 harness 脚本施加有针对性的代码补丁。至关重要的是由于修改可执行控制流带有引入无限循环或回归的内在风险我们通过三个关键循环不变量强制执行严格的验证与安全护栏白名单约束修改严格限定于框架脚手架脚本之内任务特定技能与内部配置被视为只读拒绝列表以防漂移。冒烟与验证门控验证门控在隔离的子进程沙箱中严格进行。候选 harness 必须先通过编译检查与早期冒烟测试N 5方可运行完整验证集以测量实际性能提升。可逆进化与开关所有代码编辑均可通过 git reset 回滚完全可逆重大修改包装在环境变量特性开关之后在模块导入时初始化以确保清晰的二分定位与未来的消融分析。验证门控将最终准确率与历史最佳配置进行比对测量。我们建立了取决于样本数的统计死区 Δ以滤除随机方差提升幅度低于该死区的补丁仅当其在连续的次要软度量上展现出非平凡进展时才会被接受否则状态回滚以防代码库被无功能工件充斥膨胀。为将此能力无缝集成到开发者工作流中我们在环境中将 harness 优化流程暴露为生产级斜杠命令。开发者通过提供目标迭代轮数、训练推演的批量大小、目标基础模型和参考技能文件即可启动持续进化循环。典型调用格式如下/harnessopt-loop rounds2 batchsize40 targetgpt5.4-nano skillbest_skill_nano.md [custom_requirements]5.2 Harness 优化的实验评估在初步实验中我们观察到就技能优化基准所使用的六个数据集中的大多数而言现有基础设施已经够用或 harness 优化仅带来极小变化。因此我们将评估聚焦于 SpreadsheetBench 这一代表性且具有挑战性的案例以分析 HarnessOpt 的效能。我们在四种能力各异的语言模型上开展评估GPT5.4-nano、GPT5.4-mini、GPT5.4 与 GPT5.5。详细结果见表 3。模型行为变化分析——通过应用 HarnessOpt我们识别出不同模型层级特有的运行瓶颈并以有针对性的 harness 修改逐一修复GPT5.4-mini 与 GPT5.4对这两个模型而言基线性能主要受限于对数据文件观察不足与最终答案验证薄弱。HarnessOpt 通过扩大电子表格预览的可见范围、并引入专门步骤让智能体自省其最终输出成功减少了解析与格式化错误。GPT5.5 与 GPT5.4-nano相反这两个模型经常在工具执行失败时陷入推理链重复循环的困境。为打破此僵局HarnessOpt 自动拦截这些重复状态并施加回退策略retry reasoninglow使模型得以恢复并完成任务。联合优化的重要性——如表 3 所示仅优化 harness 代码库HarnessOpt w.o. skill即显著超越纯基于提示的优化SkillOpt-LiteGPT5.4-nano 从 0.6619 提升至 0.7651GPT5.5 提升至 0.8363。值得注意的是借助 harness 优化轻量级 GPT5.4-nano 达到 0.7758HarnessOpt w. skill超越了在基本 harness 下运行完整提示优化SkillOpt0.7620的大得多的 GPT5.5 模型。这种能力反转证明细化环境脚手架可以使较小模型在次优环境中超越前沿级模型。至关重要的是唯有同时优化两个组件HarnessOpt w. skill才能取得最佳整体结果——GPT5.4 达 0.8505GPT5.5 达 0.8577。这表明技能提供战略指导而 harness 确保可靠的执行环境真实世界性能依赖于二者的协同设计。表 3SpreadsheetBench 上不同 LLM 基线的优化结果方法GPT5.4-nanoGPT5.4-miniGPT5.4GPT5.5Init skill0.29890.28210.39860.3737SkillOpt0.51600.47500.61500.7620SkillOpt-Lite0.66190.73310.79360.7972HarnessOpt w.o. skill0.76510.81140.83630.8363HarnessOpt w. skill0.77580.82560.85050.85776 结论与未来工作6.1 结论在本文中我们通过零阶优化与统计学习理论的视角形式化了智能体技能训练。我们阐明了随着基础模型规模扩大复杂的多智能体池化与文本更新阻尼机制在很大程度上是冗余的。以“一切皆文件”哲学为指导我们提出 SkillOpt-Lite——一个将推演轨迹视为独立平面文件、并利用自主编程智能体进行有针对性的语义驱动调试的最小可行流程。经验上SkillOpt-Lite 加速了优化收敛并在多个基准上持续匹配或超越重度工程的基线。最后我们将此工作流封装为原生 IDE 扩展证明了以文件为中心的技能编辑可以自然泛化到完整的 harness 优化HarnessOpt。6.2 未来工作为迈向完全自主的智能体自我进化我们概述未来研究的四个实用方向面向前沿模型蒸馏的技能优化尽管将专有前沿模型蒸馏为开源权重等价物已是标准工业实践但活跃的反蒸馏防御与次优生成边界往往拖累数据质量。利用技能优化跨细粒度能力细化教师智能体为生成高质量蒸馏语料提供了结构化框架。然而由于该范式将数据集生成与下游架构的主动优化相耦合设计快速、计算高效的数据选择评估协议仍是关键挑战。用于自动化优化的 Harness 模板数据库本工作探索了执行 harness 的基本程序化修改而扩展 harness 优化需要鲁棒的参考框架。开发精选的最小 harness 模板库至关重要可为编程智能体提供有效的结构先验。此外异构 harness 需要自适应沙箱以确保安全交互。尽管当前最先进的智能体如 Claude Code [14]已为本地软件工程环境提供有效的安全协议但将这些遏制机制扩展至互联网增强或多模态基础的执行域仍未得到解决。作为持续学习的 Harness 进化鉴于持续微调基础权重的高昂计算开销直接操作非参数层——具体而言将执行 harness 与领域技能视为“进化的参数”——为终身学习[29]提供了有前景的替代方案。该框架下的主要挑战在于长时间跨度内独立进化的 harness 谱系之间的结构对齐与融合。本研究的一个直接扩展是开发个性化智能体使 harness 架构持续适配长期人类偏好与习惯性的开发者工作流。将优化扩展到基础模型训练虽然基础模型在当前框架中保持冻结但该优化流程可自然延伸至模型训练阶段本身。在我们的哲学中由于数据集合作为标准文件被管理基础模型即代表这些文件的内在编译。凭借完全相同的三支柱架构框架可建立综合基准以压力测试模型边界自动编辑网页抓取控制器或数据蒸馏提示以采集定向样本并利用这些数据训练出迭代改进的模型。这将把优化边界从脚本转移至模型参数实现完整的智能体自我进化。有趣的是我们已率先实践了此方法的半自动化版本——例如在内部多模态生成与理解模型的预训练中动态缩放图文对以及在 LLaVA-OneVision-2 [30] 的开发过程中策划特定视频训练数据尽管这些结构性实现细节未在主论文中突出呈现。在无人工干预的情况下完全自动化此“数据-模型-harness”协同设计循环仍是关键的下一步。
![【关注可白嫖源码】--课程设计--毕业设计-- 基于机器学习的小说读者需求分析及可视化系统实现[编号：project05747]（案件分析）](http://pic.xiahunao.cn/yaotu/【关注可白嫖源码】--课程设计--毕业设计-- 基于机器学习的小说读者需求分析及可视化系统实现[编号：project05747]（案件分析）)
