论文 / arXiv:2610.18610

Jev-ToM:评估类型化决策模型中的心智理论

Jev-ToM: Evaluating Theory of Mind in Typed Decision Models

Kawai Chung, Chunkit Chan, Yuxuan Liu, Yauwai Yim, Xi Yang, Wenbin Hu, Huihao Jing, Chiu Yeung Tang +4·2026-10-13·cs.CL cs.AI相关度 47

Code and evaluation materials: https://github.com/HKUST-KnowComp/Jev-ToM

⚡ 一句话总结 AI 生成 · 以原文为准

在九个ToM基准的11,117个问题上,TypeSafe Jev达73.2%源平衡准确率,六类能力均列前二。

关键结论

  • TypeSafe Jev 达到 73.2% 的源平衡准确率(含原生控制组),在全部六类能力中排名第一或第二。
  • Jev 在九个 ToM 基准的 11,117 个英文问题上与五个类型化决策模型和七个生成式基线进行了比较。
  • 基于置信度的选择仍依赖具体基准,相关问题线索解释了 Jev 下游收益的大部分来源。

📄 摘要AI 生成 · 以原文为准

对话与协作助手需要反复判断对话方知道、相信或意图什么。类型化决策模型为有界的心智理论(ToM)选择提供了一种可替代生成式大语言模型的方案。我们提出 Jev-ToM,在来自九个 ToM 基准、覆盖六类能力的 11,117 个英文文本问题上,比较了五个类型化决策模型和七个生成式基线。TypeSafe Jev 达到 73.2% 的源平衡准确率(含原生控制组),并在全部六类能力中均排名第一或第二,在信念、目标/愿望/意图和情绪方面领先。其他类型化模型在不同任务上表现出各自的优势。独立的资源对比表明,Jev 可以降低反复 ToM 选择的成本和等待时间。基于置信度的选择仍依赖于具体基准,而所提供的理由依据其附加方式既可以修复错误,也可能推翻原本正确的答案。候选扩展揭示了不同的选择问题和输出有效性问题。相关问题线索解释了 Jev 下游收益的大部分来源,预测状态则产生依赖任务的效果。这些发现促使我们测试将 Jev 作为助手中的 ToM 选择组件,并将任务特定的置信度校准、候选设计和输出验证作为集成优先事项。

💬 讨论 0

发帖 →
还没有讨论,来发起第一个吧。

每日同步自 decision.host · 译文与总结由 AI 生成,每条都附原文链接。