SkillOpt:将智能体技能视为可训练参数

SkillOpt: Agent skills as trainable parameters

📅2026-07-01👤Microsoft ResearchMicrosoft Research
✍️翻译:DeepSeek
#实验室研究

图 1. 冻结的目标模型执行任务,而独立的优化器模型从轨迹反馈中训练技能层,并通过验证门控导出可复用的技能文件 best_skill.md。

SkillOpt 的工作原理

How SkillOpt works

图 2. SkillOpt 流程:轨迹收集、小批量反思、有界文本更新、验证门控以及逐轮慢/元更新共同约束技能训练。

跨基准测试、模型和执行模式的一致性能提升

Consistent gains across benchmarks, models, and execution modes

我们在六个基准测试(SearchQA、SpreadsheetBench、OfficeQA、DocVQA、LiveMathematicianBench 和 ALFWorld)、七个目标模型(从前沿规模的 GPT-5.5 到小型开源权重模型 Qwen3.5-4B)以及三种执行模式(直接对话、Codex 和 Claude Code)上评估了 SkillOpt。将每种组合视为一个评估单元,与人工编写的技能、一次性 LLM 技能、Trace2Skill、TextGrad、GEPA 和 EvoSkill 相比,SkillOpt 在所有 52 个单元上取得了最佳或并列最佳的结果。对于一个不更新任何模型权重的方法而言,这些性能提升异常显著。在使用 GPT-5.5 的直接对话模式下,SkillOpt 将六个基准测试的平均分从 58.8 提升至 82.3,绝对提升了 +23.5 分——比在每个单元中选择最佳单一竞争方法的“神谕”还要高出 +5.4 分。最大的提升出现在程序性基准测试上:SpreadsheetBench 从 41.8 提升至 80.7,OfficeQA 从 33.1 提升至 72.1,LiveMathematicianBench 从 37.6 提升至 66.9。相同的接口也适用于智能体循环,在 Codex 内部将 GPT-5.5 提升了 +24.8 分,在 Claude Code 内部提升了 +19.1 分(相较于无技能基线)。

比尔·盖茨、Peter Lee 和 Sébastien Bubeck 的插画头像

医学领域的 AI 革命,再探

The AI Revolution in Medicine, Revisited

加入微软的 Peter Lee,一起探索 AI 如何影响医疗保健,以及这对医学的未来意味着什么。

立即收听

在新标签页中打开

小型模型加技能文件

A small model plus a skill file

在接近下一个模型层级时,SkillOpt 还缩小了小型或开源权重模型与前沿模型之间的差距——无需更改任何权重,也无需在推理时增加额外的模型调用。优化后,GPT-5.4-mini 的六个基准测试平均分(64.3)超过了更大模型 GPT-5.4 的无技能基线(59.7),而 GPT-5.4-nano(57.4)则超过了 GPT-5.2 的无技能基线(51.3)。拥有 40 亿参数的开源权重模型 Qwen3.5-4B 也超越了 GPT-5.2 的无技能基线。曾经需要更大模型才能获得的提升,现在可以通过一个优化后的技能文件近似实现。

可迁移的技能:一次训练,随处复用

Skills that transfer: train once, reuse everywhere

优化后的技能文件捕获的是可复用的任务解决流程,而非过度拟合于单一模型、基准测试或执行环境的指令。这就是为什么相同的技能在跨模型规模、智能体框架和相关任务迁移时,仍能持续提升性能。在我们的迁移实验中,技能在跨模型规模、跨执行框架以及迁移到相近的数学基准测试时,都持续带来了性能提升。最清晰的例子是跨框架迁移:一个在 Codex 内部训练的电子表格技能,直接放入 Claude Code 中且未做进一步优化,便将无技能基线从 22.1 提升至 81.8(+59.7)——略高于直接在 Claude Code 内部训练所达到的 80.4。由于这两个框架暴露了不同的工具接口,这表明 SkillOpt 学习的是通用的工作流逻辑,而不仅仅是特定于框架的“配方”。

紧凑、可读,且仅由极少数被接受的编辑构成

Compact, readable, and built from very few accepted edits

最终部署的产物 best_skill.md 既不是不透明的参数块,也不是不断增长的日志。在六个案例研究中,最终技能长度的中位数约为 920 个 token,并且由于验证门控拒绝了大多数提案,最终文件中仅接受了一到四次编辑。OfficeQA 的 +39.0 分提升仅来自一次被接受的编辑。学习到的规则读起来就像经验丰富的从业者的建议。组件消融实验证实了这些控制机制的作用:移除被拒绝编辑的缓冲区会降低所有三个消融基准测试的分数;而同时移除元技能和慢更新则使 SpreadsheetBench 从 77.5 降至 55.0。

面向智能体时代的新适配层

A new adaptation layer for the agent era

SkillOpt 为领域适配智能体指明了一条更轻量级的路径:团队无需微调权重、硬编码任务逻辑或手动调整提示词,而是可以训练一个紧凑、可版本化、可审计的自然语言技能层——只要存在自动评估或可靠的验证器。

通过将学习率、调度策略、验证集划分、被拒绝样本和慢更新引入智能体技能,SkillOpt 表明训练不必局限于模型权重。模型外部的程序性知识同样可以被优化。

当这个过程受到控制、验证和记录时,自然语言技能便成为连接前沿模型能力与现实世界工作负载之间一个稳定、可迁移且可逆的适配器。

阅读完整论文,访问项目页面 aka.ms/skillopt(在新标签页中打开),或探索 SkillOpt 的 GitHub 仓库 github.com/microsoft/SkillOpt(在新标签页中打开)。构建智能体工作流的团队可以使用 SkillOpt 作为基础,针对自己的任务和验证器训练可复用的技能。另请参阅我们的配套项目 SkillLens。

论文

GitHub

SkillLens 项目页面

在新标签页中打开

相关出版物

Related publications

SkillOpt: Executive Strategy for Self-Evolving Agent Skills

认识作者

Meet the authors

Yifan Yang 的肖像

Yifan Yang

高级研究软件开发工程师

了解更多

Xuemei Gao

研究员

Qi Dai

Qi Dai 的肖像

Qi Dai

首席研究员

了解更多

Bei Liu

Bei Liu 的肖像

Bei Liu

高级研究员

了解更多

Kai Qiu

Kai Qiu 的肖像

Kai Qiu

研究员

了解更多

Dongdong Chen

Dongdong Chen 的肖像

Dongdong Chen

高级研究员

了解更多

Chong Luo

首席研究经理

了解更多

研究领域

Research Areas

  • 人工智能
  • 计算机视觉

相关实验室

Related labs

  • 微软研究院 - 亚洲
  • 微软亚洲研究院