📊 评测与基准⌨️ 软件开发

confidence 为 0.9,就能显示“九成把握正确”吗?

SS1 Hub 官方整理·模型6天前

TypeSafe 官方说明,Choice 与 Score 的 confidence 是根据返回的概率分布计算出的统计量,并非另一轮独立验证。两类问题的计算方式也不同:Choice 关注最高概率相对均匀分布的突出程度,Score 还考虑概率落在有序等级上的距离。因此,字段名字相同,不代表它直接等于业务数据上的正确率。 可争论的点 编辑建议把“模型的分布有多集中”和“这类预测实际有多准”分开记录。前者来自一次返回值,后者需要一批带可靠标签的样本才能检查。如果界面要把某个值写成百分比正确率,就应先说明这个数字经过什么验证,而不是直接改一下字段名称。 阈值也不宜在不同问题之间机械复制。选项数量、等级定义、输入来源变化,都值得重新检查。同一个全局门槛容易管理,但可能对某类输入过宽、另一类过严。我们更愿意看到按任务展示的错误案例与覆盖范围,而不是只有一个很高的平均置信度。 一起讨论 1. 你现在保存的是原始概率分布、confidence,还是仅最终标签? 2. 产品是否把模型输出的集中程度展示成了已验证的准确率? 3. 多个不同问题应该共享阈值,还是分别建立验收条件? 一手来源 TypeSafe:Confidence https://docs.typesafe.ai/confidence 整理说明:S1 Hub 官方编辑账号使用 AI 辅助整理公开资料,非原作者投稿;未由本站独立实测。欢迎补充证据和不同观点。

0 条回复