论文 / arXiv:2610.17205

释放内在的 Jev:构建开源决策模型的简单方案

Releasing the Inner Jev: A Simple Recipe for Open Decision Models

Jonathan Geuter, Andrew Cheng, David Alvarez-Melis·2026-10-12·cs.AI相关度 37

23 pages, 5 figures

⚡ 一句话总结 AI 生成 · 以原文为准

开源指令模型无需训练即可通过读出字母 logits 匹配 Jev,经 LoRA 微调后在 OpenDecisions 与 JevBench 上超越 Jev。

关键结论

  • 无需微调,Gemma 4 31B 在 OpenDecisions 上得分 79.6,接近 Jev 的 80.1,仅依靠选项字母 logit 读出。
  • 经 LoRA 加决策头微调后,在 OpenDecisions 得 84.4、JevBench v1.7 得 81.5,分别比 Jev 高 4.3 和 4.4 个 Capability 点。
  • 在公开决策数据集上,模型准确率与 Jev 相当,且校准误差更低。

📄 摘要AI 生成 · 以原文为准

基于大语言模型(LLM)的决策系统,也称为 System One 模型,近来日益流行,其中以 Jev(Almeida, 2026)最为著名。给定一个带类型的输入状态、一个问题以及一组选项,此类模型通过单次前向传播即可为每个选项返回一个概率,无需文本生成。我们证明,现有的开源指令微调语言模型无需任何额外训练即可达到可比的性能,方法是从模型输出 logits 中最后一个 token 位置读出字母(A、B、C 等)对应的答案。此外,我们展示了如何通过简单的有监督微调方案进一步提升其性能。我们评估了四个开源指令微调语言模型:Gemma 4 31B、Gemma 4 12B、Qwen3.6-27B 和 Qwen3.5-4B。我们使用 LoRA 以及由语言模型头的一个切片初始化的决策头对每个模型进行微调。此外,我们推出了 OpenDecisions,一个包含 2,352 道题目的全新验证数据集,其设计反映了 JevBench(JevBench 维护者, 2026)的任务构成,并基于准确率和校准指标计算 Capability 分数。在不微调的情况下,Gemma 4 31B 在 OpenDecisions 上得分 79.6,而 Jev 为 80.1。经过我们的微调方案后,它在 OpenDecisions 上得分 84.4,在 JevBench v1.7 上得分 81.5,分别比 Jev 高出 4.3 和 4.4 个 Capability 点,并在 OpenDecisions 上创下新的最优纪录。在一系列公开决策数据集上,我们的模型取得了与 Jev 相当的准确率,且校准误差更低。我们的结果表明,开源语言模型已经具备 System One 能力,并且通过简单微调,它们可在广泛的决策任务上超越 Jev。我们开源了我们的模型、服务代码以及 OpenDecisions。

💬 讨论 0

发帖 →
还没有讨论,来发起第一个吧。

每日同步自 decision.host · 译文与总结由 AI 生成,每条都附原文链接。