智能体记忆蒸馏：用层级化教师记忆赋能小型 LLM 智能体

⚡ 一句话总结 AI 生成 · 以原文为准

关键结论

• 以 GPT-5-mini 为教师，AMD 在四个 4B-8B 学生模型上于 AppWorld、BFCL V3、ToolSandbox 分别平均提升 27.2%p、11.2%p、3.4%p。
• 三种记忆类型中，Subtask 记忆贡献最大。
• 教师效果取决于教师能力与学生兼容性，4B 规模学生从 AMD 获益最多。

📄 摘要AI 生成 · 以原文为准中文翻译英文原文

记忆系统已展现出提升智能体表现的潜力，但对于小型语言模型而言其潜力仍 largely 未被探索，因为小型模型难以自行生成足够多的成功轨迹。我们提出 Agent Memory Distillation（AMD），一个免训练框架，通过层级化记忆将大型教师智能体的结构化知识迁移到小型学生智能体。AMD 从成功的教师轨迹中构建三种互补的记忆类型：Workflow（工作流）记忆编码任务级策略，Subtask（子任务）记忆以中等粒度提供具体行为示例，Function（函数）记忆捕获每个函数的调用约定和常见陷阱。Workflow 与 Subtask 记忆在每个任务开始时被主动注入，而 Function 记忆在工具调用出错时被反应式检索。我们在三个工具使用基准上评估 AMD，使用四个学生模型（4B-8B 参数），以 GPT-5-mini 作为教师，在 AppWorld、BFCL V3 和 ToolSandbox 上分别取得平均准确率提升 27.2%p、11.2%p 和 3.4%p，并持续优于现有基于记忆的基线方法。进一步分析表明，Subtask 记忆贡献最大，教师的效果取决于教师能力与学生兼容性两方面，而 4B 规模的学生从 AMD 中获益最多。