研究发布提示词安全平台与越狱数据集
热点事件持续更新
研究发布提示词安全平台与越狱数据集
1 篇报道1 个报道来源9 小时前更新
先了解这件事
AI 综述
Hanbin Hong等作者发表系统化综述（SoK）论文，将272项LLM提示词安全研究整理为三套多标签分类体系，并提出基于⟨M,A,D,S,J⟩配置元组的“访问兼容”评测协议，落地为开源平台PromptSecurity。 作者同时发布两个数据集：JailbreakDB含445,752条越狱系统-用户提示对与1,094,122条良性提示；PromptSecurity-Eval含166,200条有害查询与9,200条良性效用输出记录。 其评测在匹配的单轮协议下进行，覆盖11个目标模型、20种攻击、9种防御和3个自动评判器，有害查询为100条，另设独立的良性效用任务。
AI 根据报道生成 · 2 小时前更新
最新进展10月15日 12:00
SoK：系统化 LLM 提示词安全——越狱攻击与防御的分类体系、数据集与统一评测报道时间线
沿着报道，了解事件的不同侧面。
10月15日
- arXiv：cs.AISoK：系统化 LLM 提示词安全——越狱攻击与防御的分类体系、数据集与统一评测
研究系统化梳理 272 项 LLM 提示词安全研究，提出三套多标签分类体系并引入基于 ⟨M,A,D,S,J⟩ 配置元组的访问兼容评测协议，落地为开源平台 PromptSecurity。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。