Anthropic 为 Claude 上线自我评估安全机制
热点事件持续更新
Anthropic 为 Claude 上线自我评估安全机制
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
Anthropic 称已训练 Claude 在对话中标记潜在滥用，并将这一技术称为 self-assessment（自我评估）。据 Anthropic 介绍，该机制让 Claude 在每次回复后对对话做初步安全评估；由于模型已经读过对话内容，因此效率较高。 Anthropic 表示，自 6 月启用该机制以来，它已发现其他防护措施未能覆盖的滥用行为。与针对固定危害类别的分类器不同，这一机制依托模型自身判断，Anthropic 称它会随模型改进而更准确。
AI 根据报道生成 · 57 分钟前更新
最新进展10月30日 02:22
Anthropic 为 Claude 引入自我评估安全机制报道时间线
沿着报道，了解事件的不同侧面。
10月30日
- AnthropicAnthropic 为 Claude 引入自我评估安全机制
Anthropic 训练 Claude 在每次回复后对对话做初步安全评估，该技术称为 self-assessment，用于标记潜在滥用。自 6 月启用以来，它已发现其他防护措施未能覆盖的滥用行为。由于 Claude 已读过对话内容，该机制效率很高，且不同于针对固定危害类别的分类器，它依托模型自身判断，会随模型改进而更准确。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。