研究发现ChatGPT审核评论定向攻击表现不稳
热点事件持续更新
研究发现ChatGPT审核评论定向攻击表现不稳
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
Baran Barbarestani 等提交的论文修订版评估了 ChatGPT 识别在线评论中定向攻击与不当言论的效果。结果显示，ChatGPT 检测不当内容表现良好，但识别定向攻击语言更弱且不稳定。 研究称迭代优化提示词带来的几乎全部增益仅来自一处改动：简化标签体系并切换到 GPT-4；此后调整提示词结构和采样温度收效甚微。另据该研究，优化前 ChatGPT 对定向攻击的假阳性率高于专家判断，更换模型后假阴性率升高。
AI 根据报道生成 · 2 小时前更新
最新进展10月15日 12:00
ChatGPT 识别网络评论定向攻击与不当言论的效果评估与改进报道时间线
沿着报道，了解事件的不同侧面。
10月15日
- arXiv：cs.CLChatGPT 识别网络评论定向攻击与不当言论的效果评估与改进
研究对比 ChatGPT 与众包标注、专家评估，考察其识别在线评论中定向攻击与不当言论的准确性和一致性。结果显示 ChatGPT 检测不当内容表现良好，迭代提示词优化带来的几乎全部增益仅来自一处改动——简化标签体系并切换到 GPT-4，此后调整提示词结构和采样温度收效甚微；而识别定向攻击语言的性能更弱且不稳定，优化前假阳性率高于专家判断，更换模型后假阴性率升高。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。