跳到正文
热点事件持续更新

BenchGuard:用LLM自动审计Agent基准

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

Xinming Tu等研究者提出BenchGuard,称其为首个面向执行式Agent基准的跨工件联合审计框架,用前沿LLM系统核查基准自身缺陷。在ScienceAgentBench上,该框架发现12个作者确认的问题,其中包括导致任务不可解的致命错误;在BIXBench Verified-50子集上,其发现与专家发现的问题匹配率达83.3%,并捕获此前人工审查完全遗漏的缺陷。 研究者称,对50个复杂生物信息学任务做一次完整审计的成本低于15美元,因此自动审计可作为人工审查的实用补充。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月5日
  1. arXiv:cs.AI
    BenchGuard:用 LLM 自动审计 LLM Agent 基准

    研究者提出 BenchGuard,首个面向执行式 Agent 基准的跨工件联合审计框架,用前沿 LLM 系统性核查基准本身的缺陷。在 ScienceAgentBench 上发现 12 个作者确认的问题,包括导致任务不可解的致命错误;在 BIXBench Verified-50 子集上与专家发现的问题匹配率达 83.3%,并捕获此前人工审查完全遗漏的缺陷。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。