跳到正文
热点事件持续更新

研究审计Text-to-SQL置信度评分有效性

1 篇报道1 个报道来源5 小时前更新

先了解这件事

AI 综述

一项研究审计了生产级对话分析系统为 Text-to-SQL 答案附带的置信度评分,发现该设计评分区分答案对错的能力较弱:在 BIRD dev 的 1534 道题上(由 GPT-5.1 作答、每题五次采样),AUROC 仅为 0.624,并扣留了 35.7% 的正确答案。 作者 Raghu Venkat 与 Tricha Anjali 已将该研究公开发布,称这是针对置信度评分能否识别答案正确性的探索性研究,相关结论正在 Spider 数据集上进行预注册验证。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月15日
  1. arXiv:cs.AI
    置信度评分能否判断 Text-to-SQL 答案对错?基于 BIRD 的探索性研究与 Spider 上的预注册验证

    一项研究审计了生产级对话分析系统为 Text-to-SQL 答案附带的置信度评分:在 BIRD dev 的 1534 道题上(由 GPT-5.1 作答、每题五次采样),该设计评分区分对错的能力较弱(AUROC 0.624),并扣留了 35.7% 的正确答案。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。