道德基础理论框架被用于越狱多款大模型
热点事件持续更新
道德基础理论框架被用于越狱多款大模型
1 篇报道1 个报道来源15 小时前更新
先了解这件事
AI 综述
一项发表于 arXiv 计算语言学分类的研究提出多智能体框架 Moral Combat，利用道德基础理论（MFT）把最初被模型拒绝的有害请求改写成道德上正当的表述，从而绕过安全限制。作者 Adel Khorramrouz、Yi-Chia Wang、Sharon Levy 称，该框架在三个知名越狱数据集的有害提示上测试了五款开源与专有模型，单次尝试即取得高越狱成功率，重复尝试后成功率进一步上升。 研究还发现，安全基准违反的道德基础分布并不均衡，集中在模型本身已存在偏差的道德基础上。
AI 根据报道生成 · 2 小时前更新
最新进展10月15日 12:00
利用道德基础理论越狱 LLM：多智能体框架 Moral Combat 曝光模型道德化漏洞报道时间线
沿着报道，了解事件的不同侧面。
10月15日
- arXiv：cs.CL利用道德基础理论越狱 LLM：多智能体框架 Moral Combat 曝光模型道德化漏洞
一项基于道德基础理论（MFT）的多智能体框架 Moral Combat 能将初始被拒的有害请求重新包装为道德正当的表述，从而越狱 LLM。该框架在三个知名越狱数据集的有害提示上测试了五款开源与专有模型，单次尝试即录得高越狱成功率，重复尝试下成功率进一步上升。研究还发现，安全基准所违反的道德基础分布不均衡，集中于模型本身已存在偏差的基础。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。