评估医疗领域的对话式可解释性：比较可解释性助手与传统XAI仪表盘

⚡ 一句话总结 AI 生成 · 以原文为准

关键结论

• 五名医疗背景参与者在两种界面上完成平行任务模块，其中三人参加后续访谈。
• 助手提供更易上手的入口和针对患者的解释，仪表盘则支持同时查看全局与局部信息。
• 全部三位受访参与者均建议在单一临床工作流程中整合对话式与仪表盘元素。

📄 摘要AI 生成 · 以原文为准中文翻译英文原文

对话式界面可以使可解释人工智能（XAI）更易于无机器学习专业背景的用户使用，但相较于仪表盘，其在医疗领域的优势仍未得到充分刻画。现有系统通常被孤立地评估，因此对话式交互是否能在底层解释方法之外提升可解释性仍不明确。我们报告了一项被试内设计用户研究，比较了可解释性助手（Explainability Assistant，一个基于LLM函数调用的对话式XAI系统）与用于解释在Cleveland Heart Disease数据集上训练的心脏病分类模型的传统仪表盘。两种界面暴露相同的决策树分类器和事后解释方法：SHAP特征归因、DiCE反事实和what-if分析。这一设计在保持模型和解释方法不变的同时支持对交互模态的比较。五名具有医疗背景的参与者（从医学生到执业临床医生和公共卫生研究人员）在两种界面上完成了平行的任务模块；其中三人参加了后续访谈。任务准确率、Likert评分、自由文本问卷回答和访谈揭示了互补的优势与不足，而非对任一模态的明确偏好。助手提供了更容易的入口和针对患者的解释，而仪表盘支持同时查看全局和局部信息。所有三位接受访谈的参与者都建议在单一临床工作流程中整合对话式和仪表盘元素。