AnyJev 技术报告

⚡ 一句话总结 AI 生成 · 以原文为准

关键结论

• 循环旋转在两个 20 选项任务上将顺序翻转率从 0.33 降至 0.14 和 0.18，并在两个任务上使 11 个模型中的 11 个准确率提升。
• 带经核验 0.008 分歧界限的停止规则在四个单元中的两个上读取 18 次中的 10.6 次旋转；在一个划分上选取并约束时读取 7.3 次旋转，在 vLLM 上每秒服务 2.2 倍的决策。
• 两项纠正均无需梯度步进，也不修改参数。

📄 摘要AI 生成 · 以原文为准中文翻译英文原文

类型化决策是在固定选项集中做出的选择，以概率而非文本形式返回。当前需要类型化决策的系统使用为此目的训练的模型。本报告描述 AnyJev，它通过对一个预训练指令微调语言模型的一次 prefill 读取类型化决策。读出过程将答案位置的下 token 分布限制为选项 token。它有两个缺陷：无论输入如何，模型都会给某些标签分配更高概率，也会给选项列表中的某些位置分配更高概率。AnyJev 在不进行梯度步进且不修改参数的情况下纠正这两点：除以从无标签输入估计出的标签先验，并对选项列表的 K 个循环旋转的 log 概率取平均。在两个 20 选项任务上，旋转将顺序翻转率从 0.33 降至 0.14 和从 0.33 降至 0.18，并在两个任务上使全部 11 个模型中的 11 个准确率提升。读取每个旋转需要 K 次 prefill。针对全旋转决策在无标签状态上选取的停止规则可以减少这一开销。在一个无标签划分上选取阈值并在第二个划分上约束其分歧，它在四个单元中的两个上以经核验的 0.008 界限读取 18 次中的 10.6 次旋转；如我们的服务运行那样在一个划分上选取并约束，它读取 7.3 次旋转，并在 vLLM 上每秒服务 2.2 倍数量的决策。代码已开源。