跳到正文
热点事件持续更新

用内部激活探针检测金融QA幻觉

1 篇报道1 个报道来源5 小时前更新

先了解这件事

AI 综述

研究者 Richard Zhe Wang 等人提出用大模型内部激活探针检测金融问答中的"自信幻觉"，即在 FinQA 和 TAT-QA 财报问答基准上，八次重采样答案全部一致的"自信回答"中仍有 15-23% 是错误的。 该方法在 Qwen3-8B、Llama-3.1-8B 和 Gemma-2-9B 的残差流上训练线性探针，检测幻觉的 AUROC 为 0.68-0.77，优于 token 对数概率和模型自评等输出层基线（0.55-0.63）。论文称代码和数据已公开。

AI 根据报道生成 · 1 小时前更新

最新进展10月15日 12:00
从 LLM 内部状态检测金融问答中的"自信幻觉"

报道时间线

沿着报道，了解事件的不同侧面。

10月15日
  1. arXiv：cs.CL
    从 LLM 内部状态检测金融问答中的"自信幻觉"

    在真实财报问答基准 FinQA 和 TAT-QA 上，八次重采样答案全部一致的"自信回答"中仍有 15-23% 是错误的。研究者在 Qwen3-8B、Llama-3.1-8B 和 Gemma-2-9B 的残差流上训练线性探针，检测幻觉的 AUROC 达 0.68-0.77，优于 token 对数概率和模型自评等输出层基线（0.55-0.63）。

本事件热度走势

还没有足够的连续观测数据，暂不绘制趋势。