研究者提出提示注入检测的新分类框架

研究者提出名为 Latent Diagnostic Taxonomy 的框架，用于构建安全防护层分类器，并判断其中哪些高置信决策可信。该框架通过交叉验证选择嵌入维度、定位约 29% 训练样本的潜在支持向量，并按安全信任、启发式偏差与覆盖、上下文不足三类进行路由。 在公开提示注入数据集上，约 77% 的高置信决策对删除单个 token 不稳健，可分为置信度校准失败与可被利用的捷径两种模式。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。