跳到正文
热点事件持续更新

VEPA:可验证演化的LLM智能体护栏框架

1 篇报道1 个报道来源10 小时前更新

先了解这件事

AI 综述

Duy Nguyen等作者发布论文,提出VEPA框架,用于LLM智能体护栏的可验证演化。该框架把护栏表示为基于类型化事件的可执行符号规则(形式化策略),部署时由LLM根据反馈提出策略补丁,再由确定性验证器只接受结构有效且无冲突的补丁。 论文称,在ASSEBench-Safety、ASSEBench-Security和ATBench上,VEPA持续优于基线,并在混合数据流、反馈损坏和更长周期等条件下依然有效。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月12日
  1. arXiv:cs.AI
    VEPA:面向终身 LLM 智能体护栏的可验证演化形式化策略

    VEPA 将 LLM 智能体护栏表示为基于类型化事件的可执行符号规则形式化策略,部署时由 LLM 依据反馈提出策略补丁,再由确定性验证器仅接受结构有效且无冲突的策略。在 ASSEBench-Safety、ASSEBench-Security 和 ATBench 上,VEPA 持续优于基线,并扩大了确定性形式化策略的执行范围,在混合数据流、反馈损坏和更长周期等条件下依然有效。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。