论文追踪LLM安全通路并提出Sentinel
热点事件持续更新
论文追踪LLM安全通路并提出Sentinel
1 篇报道1 个报道来源12 小时前更新
先了解这件事
AI 综述
Zixuan Weng等作者发布预印本论文，把大语言模型的安全失效重构为可测量的通路问题，并提出Sentinel方法。 论文称，在覆盖Qwen、Llama、Gemma的18组Base-Instruct配对中发现，有害性更易从attention更新中解码，而MLP更新在对齐模型中更强地写入拒绝。基于这些发现，Sentinel结合了从attention得出的感知分数P与从MLP得出的决策分数D。
AI 根据报道生成 · 2 小时前更新
最新进展10月12日 12:00
Attention Sees, MLP Refuses：追踪 LLM 中从注意力到 MLP 的安全通路报道时间线
沿着报道，了解事件的不同侧面。
10月12日
- arXiv：cs.AIAttention Sees, MLP Refuses：追踪 LLM 中从注意力到 MLP 的安全通路
研究将 LLM 安全失效重构为可测量的通路问题，在 18 组 Base-Instruct 配对（覆盖 Qwen、Llama、Gemma）中发现，有害性更易从 attention 更新中解码，而 MLP 更新在对齐模型中更强地写入拒绝。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。